牛津、剑桥专家联合撰写报告《人工智能的恶意用途：预测、预防和缓解》

按上方蓝色字，关注中海闻达。

2月23日，一份由26名专家联合撰写的报告《人工智能的恶意用途：预测、预防和缓解》（The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation），对人工智能技术的潜在威胁发出警告。他们认为，这项技术可能在未来5到10年催生新型网络犯罪、实体攻击和政治颠覆。参与撰写的专家来自14家不同的机构和组织，包括牛津大学、剑桥大学和埃隆·马斯克的OpenAI等。

报告详细阐述了人工智能可能在未来几年做出哪些令人们普遍反感的事情，人工智能技术现在会帮助敌对国家、犯罪分子和恐怖分子展开精准而高效的攻击，不仅能够扩大范围，还可以提高效率。为了缓解这些威胁，该报告给出5点建议：

1、人工智能和机器学习研究人员应该承认其研究成果是双刃剑。

2、 政策制定者应该与技术人员密切合作，调查、预防和缓解人工智能可能的恶意使用方式。

3、应该向电脑安全等其他高风险技术领域学习一些方法，将其应用于人工智能领域。

4、应该在这些领域优先形成规范和道德框架。

5、 讨论这些挑战时所涵盖的利益相关者和专家范围应该扩大。

报告调查了恶意使用人工智能技术可能带来的安全威胁，并提出了更好的预测、预防和缓解这些威胁的方法。报告中详细分析了 AI 可能在数字安全、物理安全、政治安全等方面带来的威胁，随后还为 AI 研究人员和其他利益相关者提出了四项高层次的建议。此外，在报告中还提出了几个有发展前景的领域，以便进一步的研究，从而能扩大防御的范围或者使攻击效率降低/更难执行。

在报告的最后，作者还分析了攻击者和防御者之间的长期平衡问题，不过并没有明确地解决这个问题。