人工智能：你真的理解机器人的工作方式吗，我们是否可以信任它？

生活特别阅读：你真的理解机器人的工作方式吗，我们可以足够信任它吗？

大家好，这里是“青柳悦生活”！

今天我们来了解一下：那些智能机器人是如何解释自己比你想象的更重要？

随着科技不断的发展，人工智能正以各种方式进入我们的生活。在我们的智能手机上，在我们的家里，在我们的汽车里。 这些系统可以帮助我们预约，驾驶，甚至诊断疾病。

不过，随着人工智能系统继续在人们的生活中扮演重要的协作角色的同时，有一个自然而然的问题便产生了，那就是我们可不可以完全的信任他们？ 他们真的可以做到我们所期望的事情吗？对于这些相关问题，目前有一些研究为此作出了解答。

人工智能(XAI)是人工智能研究的一个分支，主要研究如何使人工智能对人类用户变得更加透明和可信。 如果机器人和人类要在一起工作，那信任一定是必不可少的。 Xai 致力于开发人类认为值得信赖的人工智能系统，同时也能很好地完成设计好的任务。

近日，在加州大学洛杉矶分校的视觉、认知、学习和自主中心，研究人员们对是什么因素使机器人更值得信赖产生了浓厚的兴趣，以及不同的学习算法又如何能够产生信任。他们的实验室使用了一种更容易被人类理解的知识表示方式。

就是一种人工智能用来解释周围环境并做出决策的世界模型。这个模型非常有助于解释和透明度，从而也能够提高我们人类的信任度。在他们最近的研究中，他们用了不同的方式对机器人向人类观察者解释它的行为进行了实验。

有趣的是，培养最人性化信任的解释形式与产生最佳任务表现的学习算法并不相符。这表明性能和解释并不是天生相互依赖的。仅仅为其中一个进行优化可能不会给另一个带来最好的结果。这种分歧也对机器人的设计既要考虑到良好的任务性能，又要考虑到可信赖的程度提出了很高的要求。

通过研究显示，随着时间的推移，机器人打开药瓶的符号和触觉解释。 最上面一行是机器人执行任务的视频截图。 中间一行是对任务的象征性解释。 下面一行显示了一个触觉上的解释。在进行这项研究时，研究人员对两件事情感兴趣。 机器人是如何更好地学习执行特定的任务？

而人们又是如何回应机器人对其行为的解释？因此，研究人员教会了机器人从人类的示范中学习如何用安全锁打开药瓶。一个人戴着触觉手套，记录人手打开瓶子时的姿势和力量。 这些信息可以帮助机器人通过两种方式学习人类的动作：符号和触觉。

而这些象征意味着行动的有意义的表现： 例如，“抓住”这个词，触觉是指与你身体的姿势和动作有关的感觉：例如，你的手指合拢在一起的感觉。首先，机器人学会了一个符号模型，该模型编码完成打开瓶子任务所需的一系列步骤。

其次，机器人学会了一种触觉模型，这种模型允许机器人“想象”自己扮演人类演示者的角色，并预测人在遇到特定的姿势和力量时会采取什么行动。研究结果表明，该机器人在能够实现其最佳的性能时，就会非常连贯地结合符号和触觉的组件。

而与其单独使用的任何一种方法相比，这种机器人能更好地利用知识执行任务，并通过手爪进行实时感应。既然机器人知道该做什么，那么它如何向人解释它的行为呢？ 这种解释在多大程度上又促进了我们人类的信任呢？

为了解释它的这种行为，机器人利用了它的内部决策过程以及它的行为。符号模型提供了机器人动作的一步一步的描述，触觉模型提供了机器人手爪的“感觉”在实验中，他们为人类增加了一个额外的解释：在机器人尝试打开药瓶之后，一个文本记录提供了一个摘要。

研究人员想看看摘要描述是否能像逐步的符号解释一样有效地赢得人们的信任。于是，研究人员要求150名人类参与者，分成四组，观察机器人试图打开药瓶的过程。 然后，机器人给每个小组一个不同的任务解释：符号一步一步；触觉手臂的位置和动作；文本摘要；或符号和触觉一起；

而基线组只观察了机器人试图打开瓶子的视频，没有提供任何额外的解释。研究发现，同时提供符号和触觉两种解释能促进最大程度的信任，其中符号成分贡献最大。 有趣的是，以文本摘要的形式进行的解释并没有比简单地观察机器人执行任务更能培养信任。

这表明人类更喜欢机器人一步一步地解释他们在做什么。这项研究最有趣的结果是，使机器人表现良好的因素与使人们认为机器人值得信赖的因素是不同的。 机器人需要符号和触觉两个部件来做最好的工作。但这种象征性的解释却让人们更信任机器人。

而这种分歧突出了未来人工智能和机器人学研究的重要目标，同时关注任务性能和解释能力。 而只关注任务表现可能不会导致机器人很好地解释自己。研究人员的实验室使用一个混合模型来提供机器人高性能和可信赖的解释。

性能和解释并不自然地相辅相成，因此在构建人工智能系统时，两个目标都需要从一开始就优先考虑。这项工作代表了系统研究人机关系如何发展的重要一步，但还有很多工作要做。 对于未来的研究而言，一个具有挑战性的步骤将是从“我相信机器人可以做 ”转变为“我相信机器人”

而为了让机器人在人们的日常生活中占有一席之地，人类需要信任他们的机器人伙伴。了解机器人如何能够提供促进人类信任的解释是使我们和机器人能够共同工作的重要一步。

看到这里的小伙伴们，如有不同的想法，请在评论区进行留言，我们一起来讨论。

我是“青柳悦生活”，咱们下期再见！