国防部怎么去规划人工智能

虽然人工智能可以在战斗自动化中扮演许多角色，但权衡风险（尤其是围绕机器学习的风险）并相应的对其进行补偿是至关重要的。

研究人员警告称：人工智能的风险是很大的。机器学习也很容易被愚弄，而强化学习（或从环境互动中学习）会产生创新但不可预测的人工智能。考虑到攻击者相对于防御者固有的网络安全优势，在军队中使用人工智能可能会导致难以估计的灾难性失败。

然而，这些风险可以在几个方面得到缓解，这可以概括为两个原则：

1、在其他地区、实验室和国家之间建立一个信息网络

创建管理人工智能及其风险的国际机构和标准，以及参与军方对话以分享其研究成果，这将防止意外冲突，促进对“文书、协议和条约”的拟订。

2、专注于防守策略

将机器学习开发集中在“杀伤链”之外的过程中，如物流、系统诊断和防御网络，使防御者在虚拟战斗区里有更大的控制权，从而将风险降至最低。此外，对机器学习的可预测性、稳健性和安全性进行更深入的研究，这将在当前有利于高风险攻击的网络环境中拥有长期优势。在改变网络攻击和防御之间的平衡方面，国家安全部门可以发挥关键作用。