约书亚·本吉奥:人工智能既可以释放巨大福祉,也可能带来跨越国界的共同风险

合集 · 走进实验室 (3)

  1. 42:38
    央视《对话》:上海AI实验室有“智”青年,创新机制助力人才勇攀科研“珠穆朗玛”
  2. 16:19
    见证历史|AI教父Geoffrey Hinton中国行,与上海AI Lab主任周伯文尖峰对话:AGI、科学发现、人类与AI
  3. 4:23
    约书亚·本吉奥:人工智能既可以释放巨大福祉,也可能带来跨越国界的共同风险
Description
在2026WAIC科学前沿论坛上,图灵奖得主、蒙特利尔大学教授、国际人工智能安全报告负责人约书亚·本吉奥(Yoshua Bengio)做视频演讲。

结合国际人工智能安全对话形成的最新共识,Bengio指出,“随着AI能力快速提升,网络攻击和生物安全领域的滥用风险日益紧迫,AI既可能降低实施危害的能力门槛,也可能放大危害的规模。尤其是开放权重模型,一旦发布并广泛传播,便难以召回或修补。”

他进一步分享应对思路,“人工智能治理不能只依据当前能力判断风险,而应从事后应对转向事前预防,通过部署前测试、危险能力评估、必要的延迟发布和访问控制筑牢防线。”人工智能既可以释放巨大福祉,也可能带来跨越国界的共同风险,他呼吁:各国政府和科研界必须从政治与技术两个层面加强合作,共同寻找服务全人类的治理方案。