要为生成式人工智能套上“安全框架”，推动实现“懂道德的AI”

北京日报客户端 | 记者 刘苏雅

2022年，人工智能等前沿科技创新治理成为热点议题，我国相关的行业标准和地方法规密集建立，科技监督和科技伦理治理走向法制化、规范化。5月5日，《2022年中国前沿科技创新治理的重要进展与总体趋向》在北京市科协专业智库“论策论道”活动上发布。会上，专家表示，要为生成式人工智能套上“安全框架”，并最终推动人工智能有道德、合乎伦理。

生物科技、人工智能等新技术的快速发展，既包含着社会进步的新机遇，也带来了技术滥用等不确定性风险。“2022年，可以说是中国科技创新治理史上最具有里程碑意义的一年。”中国农业大学人文与发展学院发展管理系教授、北京自然辩证法研究会理事长李建军说，当前，我国科技正处于转型发展时期，在前沿领域乃至科研“无人区”取得重要成果的同时，对科技风险防控的预警和治理也面临极大挑战。

人工智能等前沿科技创新治理成为了2022年的热点议题。“生成式人工智能的数据来自社会，而数据中就隐含了人类的偏见，在此基础上训练的人工智能，显然无法保持中立。”中科院自动化所研究员、人工智能伦理与治理研究中心主任曾毅表示，如果不对大模型进行价值观校准，其可能会基于统计显著性给出匪夷所思的答案，“我们要先建立起伦理安全框架，而最终目标是实现有道德、合乎伦理的人工智能。”

在科技监督和科技伦理治理向法制化、规范化发展的同时，前沿科技领域的行业共治也起到了举足轻重的作用。曾毅领衔的团队发布的“智善”人工智能伦理安全平台体系，就是人工智能领域行业共治的典型代表。其中的“智善·观行”观测站，便是通过公众反馈、察言观行来判断人工智能大模型的“道德品行”，用技术规范技术。

“人工智能治理关键在‘人’，治理的对象归根结底也是‘人’。”中国新一代人工智能发展战略研究院执行院长龚克认为，人工智能是革命性通用技术，是具有“头雁效应”的先进生产力，特别是生成式人工智能已成为当前人工智能发展的前沿，需要通过有效的治理，促进而非阻碍人工智能的健康发展。