普渡大学开发新模型,测试人对智能机器的信任水平

编译:chux

出品:ATYUN订阅号

普渡大学研究人员开发了新的模型,名为“分类模型”,能够感知人类对与他们合作的智能机器的信任程度,这是提高互动和团队合作质量的一步。整个研究领域的长期目标是设计能够改变其行为的智能机器,以增强人们对它们的信任。这些新模型是由普渡大学机械工程学院的助理教授Neera Jain和副教授Tahira Reid领导的研究开发的。

Jain表示“智能机器,智能系统在人类的日常生活中变得越来越普遍,随着人们越来越需要与智能系统进行交互,信任成为协同互动的重要因素。”

例如,飞机驾驶员和工业工人通常与自动化系统进行交互。如果他们认为系统不稳定,人类可能不会很好地利用智能机器。

研究人员开发了两种“基于分类器的经验信任传感器模型”,这是改善人类与智能机器之间信任的一步。这项工作与普渡大学的Giant Leaps庆祝大学成立150周年的活动有关,庆祝该大学在AI,算法和自动化方面取得的全球进步。

这些模型使用两种技术提供数据以衡量信任程度:脑电图和皮肤电反应。第一个记录脑波模式,第二个监测皮肤电特性的变化,提供与信任相关的心理生理学特征集。45名人类受试者戴上无线EEG耳机以及佩戴设备以测量皮肤电反应。

其中一个新模型,即“一般信任传感器模型”,对所有45名参与者使用相同的心理生理学特征。另一个模型是针对单人定制的,从而提高了平均准确度,但代价是增加了训练时间。这两个模型的平均准确度分别为71.22%和78.55%。这是第一次使用EEG测量来实时评估信任值。

Jain表示,“我们正在以一种全新的方式使用这些数据,以一种连续流来看待它,而不是在特定的触发或事件之后观察脑电波。”

在交互智能系统计算机械交易协会的一期特刊中,研究论文详细介绍了这一发现,名为“Trust and Influence in Intelligent Human-Machine Interaction”。论文作者为斯坦福大学博士后研究员Kumar Akash,以及Jain和Reid。

“我们有兴趣使用反馈控制原则来设计能够实时响应人类信任级别变化的机器,以建立和管理人机关系中的信任,”Jain说,“为了做到这一点,我们需要一个传感器来实时估计人类信任水平。本文提供的结果表明,心理生理测量可以做到这一点。”

人类对机器的信任问题对于“人-机集合体”的有效运作至关重要。“未来将围绕人-机集合体建立,这将要求人与机器之间进行有效和成功的协调与合作,假设有一大群机器人在自然灾害中协助救援队。在我们的工作中,我们只处理一个人和一台机器,但最终希望能扩大到整个人类和机器的团队。”

团队已经引入了算法来自动化进程。Reid指出,“我们仍然有人在那里监视正在发生的事情,如果他们认为有些地方不对,他们就会介入控制。有时这种行为是不合理的。在某种情况下,人类可能无法理解正在发生的事情,因此他们不相信系统做正确的事情,即使他们不该管,他们也会收回控制权。”例如在飞行员超越自动驾驶仪的情况下,收回控制可能实际上阻碍飞机的安全操作,从而导致事故。

“所以,设计能够建立和维护人类信任的智能机器的第一步是设计一种传感器,使机器能够实时估计人类的信任水平,”Jain说。

为了验证他们的方法,581名在线参与者被要求进行驾驶模拟,而计算机识别出道路障碍。在某些情况下,计算机100%正确识别出障碍物,在其他情况下,计算机错误地识别50%的障碍物。

Reid表示,“在某些情况下,它会告诉你有障碍,所以你踩下刹车避免发生事故,但在其他情况下,它会错误地告诉你没有障碍物,所以你踩下刹车是多此一举的。”

该测试使研究人员能够识别与智能系统中人类信任相关的心理生理特征,并相应地建立信任传感器模型。团队假设信任水平在可靠的试验中很高,在错误的试验中较低,并使用从581名在线参与者收集的答复来验证这一假设。结果验证了该方法能有效地诱导人们对智能机器的信任水平。

对于自主系统,人类信任可以分为三类:倾向性,情境性和学习性。

倾向性信任指的是信任的组成部分,依赖于性别和文化等具有潜在偏见的人口统计数据。“其中可能存在细微差别,应该加以考虑,例如,女性与男性的信任水平不同,而且信任也可能受到年龄和国籍差异的影响。”

情境性信任可能受到任务风险或难度的影响,而学习性信任则基于人类过去对自主系统的体验。他们开发的模型称为分类算法。

团队表示,“我们的想法是,能够利用这些模型来区分一个人何时可能感到信任,何时可能感到不信任。”此外,Jain和Reid还研究了性格信任,考虑性别和文化差异,以及能够根据数据预测未来信任水平如何变化的动态模型。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-12-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券