DARPA拟解开机器学习的黑匣子

美国《MIT技术评论》杂志发表了Will Knight的文章，名为：美国军方要求自动化机器能够解释自身机制。文章表示：最新的机器学习技术本质上是一个黑匣子。美国国防部高级研究计划局(DARPA)正在资助一些旨在打开机器学习黑匣子的工作。

情报人员和军事人员可能会严重依赖机器学习来解析大量数据，并用于控制不断增长的自主式系统武器库。但是，美国军方想确保这不会导致对任何算法的盲目信任。

美国国防部高级研究计划局是隶属于国防部的新技术研发部门。该局正在资助一些旨在促使人工智能做出自我解释的项目。这些方法五花八门，既包括增加提供解释功能的高级机器学习系统，也包括了开发出通过设计实现解释功能的新机器学习的方法。

“我们正在经历真实的人工智能爆炸。其主要原因是机器学习，尤其是深度学习。”该局项目经理说，他正在资助一项人工智能技术开发，旨在向推理过程添加解释。

深度学习和其他机器学习技术已经在硅谷掀起了巨浪，因为它们大幅提高了语音识别和图像分类，并被广泛应用于越来越多的领域，如执法和医学等。在这些领域，出错的后果可能很严重。但是，尽管深度学习很擅长从数据中发现模式，却无法了解其是如何得出结论的。学习过程在数学上非常复杂，通常没有办法将其翻译成人类能够理解的东西。

深度学习特别难以解释，而解释其他机器学习技术也颇具挑战性。国防部高级研究计划局的项目经理表示，“这些模型非常不透明，让人很难理解。如果不是人工智能专家的人，理解起来就更加困难。”

深度学习极为神秘，因为它复杂得令人难以置信。它主要受到了大脑神经元学习响应输入过程的启发。多层模拟神经元和突触都是被标记的数据，它们的行为会得到不断的调整，直到它们学会如何识别，比如照片中的猫。但是，该系统学习的模型是根据数百万个神经元的权重编码的，因此检查起来很有挑战性。深度学习网络识别出一只猫时，目前还不清楚系统的注意力是在图像中的胡须、耳朵、甚至是猫的毯子上。

通常情况下，机器学习模型是不是透明的，这并没有这么重要，但对于试图识别潜在目标的情报员来说，情况就不同了。“有一些关键的应用程序就需要这种解释。”国防部高级研究计划局的项目经理指出。

他补充说，军方正在开发无数的自主式系统，无疑将严重依赖深度学习等机器学习技术。自动驾驶汽车以及空中无人机在未来几年将会得到越来越多的使用，它们的能力也会越来越强。

解释的重要性不仅仅在于可以帮助做出正确决定，它还有助于防止出错。如果一个图像分类系统已经学会只针对猫的花纹进行分类，那么它就可能会被毛茸茸的地毯所迷惑。因此，提供解释可以帮助研究人员使系统更加可靠，有助于防止那些依赖这些系统的人犯错。

美国国防部高级研究计划局正在资助13个不同的研究小组，探索多种方法使人工智能变得更具可解释性。

其中一个资助团队来自于查尔斯河分析公司（Charles River Analytics）。该公司为包括美国军方在内的各种客户开发高科技工具。这个团队正在探索新的深度学习系统。这些系统包含一些解释，例如突出显示某些与分类最相关的图像区域。研究人员还在测试利用计算机接口使机器学习系统的运作更加明确，包括数据、可视化，甚至自然语言解释。

美国德州农工大学(Texas A&M University)夏虎（音译）教授领导的团队是另一个资助对象。他指出，这个问题在机器学习的其他应用领域，如医学、法律和教育领域，也很重要。缺少某种解释或推理的支持，“领域专家不会相信结果。”他说，“这是许多领域专家拒绝采用机器学习或深度学习的主要原因。”