图灵奖得主Hinton、Bengio等签署共识：北京AI安全国际对话收官，搭建中外AI安全合作平台

您想知道的人工智能干货，第一时间送达

3月10-11日，我国首个AI安全高端闭门论坛——“北京AI安全国际对话”在北京颐和园成功举办。本次对话由智源研究院发起，智源学术顾问委员会主任张宏江与图灵奖得主Yoshua Bengio担任共同主席。Geoffrey Hinton、姚期智、Stuart Russell、傅莹、张亚勤、薛澜等30余位专家参会。

与会专家围绕国际AI安全技术前沿研究、产业应用实践、政策引领等话题，在为期两天的对话中展开深入探讨，共同拟定并签署了《北京AI安全国际共识》，提出人工智能风险红线及安全治理路线，同时呼吁“在人工智能安全研究与治理上的全球协同行动，是避免不受控制的前沿人工智能发展为全人类带来生存风险的关键。”

本次对话邀请了众多国际顶尖AI领域专家参与，包括图灵奖得主Geoffrey Hinton、Yoshua Bengio、姚期智，UC Berkeley教授人类兼容人工智能中心主任Stuart Russell、傅莹女士、清华大学智能产业研究院院长张亚勤、清华大学苏世民书院院长薛澜、南洋理工大学副校长林国恩、Anthropic安全专家Sam Bowman、未来人类研究所高级研究员Toby Ord、加州大学洛杉矶分校人工智能治理中心国际治理主管Robert Trager、加州大学伯克利分校教授，麦克阿瑟奖得主Dawn Song、施瓦茨·赖斯曼技术与社会研究所所长Gillian Hadfield、英国AI安全研究所CTO Jade Leung、英国先进研究与创新署（ARIA）项目总监David Dalrymple，北京大学AI安全与治理中心执行主任杨耀东，以及来自零一万物、智谱AI、瑞莱智慧等国内创业公司，多家互联网企业与投资机构代表，以及智源研究院理事长黄铁军、院长王仲远、副院长林咏华等。

对话首先围绕AI安全领域现状、AI安全红线定义、国际合作方式、生物与数字智能、产业中的AI安全实践等主题展开探讨，并就常态化交流、经验分享、科研合作、人才培养机制等提出了设想。

在共识拟定环节，与会者讨论并一致认为，避免人工智能导致的灾难性全球后果需要我们采取果断的行动。协同合作的技术研究与审慎的国际监管机制的结合可以缓解人工智能带来的大部分风险，并实现其诸多潜在价值。我们必须继续坚持并加强国际学术界和政府在安全方面的合作。共识从AI风险红线、落实治理路线两个角度进行了阐述（部分内容如下图）。

共识全文链接：https://baai.org/l/IDAISBeijing