再见“黑盒”：研究人员教AI解释自己

文章来源：企鹅号 - 光明网

【再见“黑盒”: 研究人员教AI解释自己】黑盒问题，即无法确切了解其内部运作方式，是我们信任人工智能系统的一大障碍。近日，一个由UC Berkeley，University of Amsterdam, MPI for Informatics, 和Facebook AI Research的研究人员组成的研究小组正在使"黑盒"变得透明。该小组教AI对其推理进行解释, 并在做出决定时指出证据。研究人员开发了一个回答关于图像的简单语言查询的AI模型，该模型可以回答有关特定场景中对象和动作的问题，并通过描述它所看到的和突出图像的相关部分对答案进行解释。