博鳌亚洲论坛丨曾毅：人工智能的决策不可靠 应对风险必须从现在开始

曾毅

中国科学院自动化研究所人工智能伦理与治理研究中心主任

3月27日，在博鳌亚洲论坛2024年年会上，中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅在会后对腾讯财经表示，人类永远应该是决策的最终角色，人工智能的决策是不可靠的，还会产生虚假信息，永远不要将决策这件事让给人工智能。

博鳌亚洲论坛现场

曾毅：不具备理解能力的人工智能不是真的“智能”

“人工智能产生很多虚假信息，让世界产生了很多不信任，我认为这是当前的一个重大挑战。”谈及风险，曾毅进一步指出，以前我们总说“眼见为实”，现在已经“眼见不为实”了，所以解决人工智能产生的社会信任问题是当务之急。

“因为人工智能缺乏理解能力，未来如果它产生了自我意识，希望寻求更多权利，而不是辅助人类决策的时候，那我们要如何去应对挑战呢？”曾毅表示，应对这样的风险，我们可能需要10年20年，必须从现在就开始，否则就太晚了！

对于“未来已来”的说法，曾毅表示：“我们处在一个既有机遇也有风险的时代，我们目前对人工智能的理解还如此肤浅，就快速地将下一代推向AI时代是不负责任的。”他还是坚持，目前的重点是研究人工智能技术进展，预测相关风险并做好治理。（腾讯财经 祝玉婷）