美国成立首个AI安全研究联盟

芝能科技出品

2024年2月，美国商务部长吉娜·雷蒙多宣布成立美国人工智能安全研究联盟（AISIC），联盟将隶属于美国人工智能安全研究所（USAISI），并得到200多家领先的人工智能利益相关者的支持，旨在支持安全、可靠且值得信赖的人工智能的开发和部署。

AISIC联盟包括来自不同领域的成员，涵盖人工智能创造者和用户、学者、政府和行业研究人员，以及民间社会组织。其中包括美国最大的公司和最具创新性的初创公司，以及民间社会和学术团队。这个跨领域的联盟旨在建立对人工智能如何发展的基础理解，以及如何更好地管理其能力、局限性和影响。

01

目标与优先行动

该联盟将为拜登总统的行政命令中概述的优先行动做出贡献，其中包括制定红队指导方针、能力评估、风险管理、安全保障以及对合成内容加水印等方面的工作。AISIC联盟还将支持美国国家标准与技术研究院（NIST）的人工智能安全研究所，致力于为人工智能安全领域的新测量科学奠定基础。

AISIC联盟的工作将聚焦于以下几个方面：

● 知识和数据共享：建立人工智能利益相关者的知识和数据共享空间，促进信息流通。

● 协作与跨学科研究：通过执行研究计划，促进协作和跨学科研究与开发，提高对人工智能对社会和经济的影响的理解。

● 制定指南和标准： 制定基于科学和经验支持的人工智能衡量和政策指南和标准，为全球人工智能安全奠定基础。

● 促进技术和数据合作：推动联盟成员之间技术和数据的合作开发和转让。

● 简化联邦机构投入机制：确定简化联邦机构对人工智能安全直接职权范围内的投入的机制。

● 评估和评估：实施对测试系统和原型的评估和评估，为未来的人工智能测量工作提供信息。

02

工作领域

AISIC联盟目前包括来自私营和公共部门的200多家组织。这些组织在2023年11月2日至2024年1月15日期间提交了《联邦公报》中所述的意向书。NIST将继续让更多组织加入联盟，以保持开放和透明的研究合作。

联盟成员的捐款将支持多个领域，包括：

● 制定行业标准的发展指南、工具、方法、协议和最佳实践。

● 制定人工智能能力的指南和基准，特别关注可能造成伤害的能力。

● 制定生成式人工智能的安全开发实践，包括对两用基础模型的特殊考虑。

● 制定红队和隐私保护机器学习的指导、方法、技能和实践。

● 制定人工智能劳动力技能指南和标准，包括风险识别和管理、测试、评估、验证和验证等领域。

小结

AISIC联盟的目标是通过可信赖和负责任的人工智能测量科学，促进人工智能的安全、可靠和值得信赖的发展。