专栏首页ATYUN订阅号AI智能体使用日常语言生成解释其行为的原理

AI智能体使用日常语言生成解释其行为的原理

佐治亚理工学院、康奈尔大学和肯塔基大学合作开发了一种AI智能体,可以实时自动生成自然语言解释,以传达其行为背后的动机。这项工作旨在让人类与AI智能体或机器人合作,确保智能体正在正确地执行任务,并且可以解释错误或错误的行为。

智能体还使用非专家能够理解的日常语言。这些解释,或研究人员所称的“理性”,旨在引起人们的共鸣,并激发人们对那些可能在工作场中或社交场合中的机器人的信任。

“由于人工智能遍及我们生活的方方面面,因此非常需要以人为本的人工智能设计,使日常用户可以解释如同黑盒子的人工智能系统。我们需要理解基于语言的解释的作用以及如何让人类认识到它们。”

研究人员开展了一项参与者研究,以确定AI智能体能否提供模仿人类反应的理论依据。观众观看智能体玩视频游戏Frogger,然后根据每个人对人工智能游戏动作的描述程度,以描述AI移动的好坏对屏幕上列出的三个原理进行排序。

对于每一步的三个匿名判断,包括人类生成的响应,AI智能体生成的响应和随机生成的响应,参与者优先选择人类生成的理论,但AI生成的响应紧随其后。

Frogger为研究人员提供了在“顺序决策环境”中训练AI的机会,这是一项重大的研究挑战,因为智能体已经做出的决策会影响未来的决策。因此,研究人员表示,向专家解释推理链是困难的,在与非专家交流时更是如此。

参与者理解Frogger的目标是让青蛙安全回家,而不会被移动的车辆撞到或在河里淹死。向上,向下,向左或向右移动的简单游戏机制允许参与者看到AI正在做什么,并评估屏幕上的基本原理是否清楚地证明了移动的合理性。

参与者根据以下因素判断原理:

  • 信心:这个人对AI执行任务充满信心
  • 类人的:看起来像是由人类做出决定
  • 充分的理由:充分证明采取的行动是正确的
  • 可理解性:帮助人们理解AI的行为

AI生成的理论,在参与者中排名较高,表现出对环境条件和适应性的认可的理论,以及那些传达对未来危险的认识并为其规划的理论。冗余信息只是陈述了明显特征或错误地描述环境,这会产生负面影响。

“这个项目更多的是为了了解人类对这些人工智能系统的认知和偏好,而不是建立新技术,”Ehsan表示,“可解释性的核心是意义建构。我们试图理解这个人为因素。”

另一项相关研究证实,研究人员决定设计他们的AI智能体,使其能够提供两种不同类型的原理中的一种:

  • 简洁的,专注的
  • 整体的,全貌

在第二项研究中,参与者在观看AI玩Frogger后才获得AI生成的原理。他们被要求在人工智能出错的情况下选择他们更喜欢的答案,他们不知道原理分为两类。

四分之三的参与者赞成分类为“全貌”类别的答案。回应显示,人们欣赏人工智能对未来步骤的思考,而不仅仅是思考当下的事情,这可能会让他们更容易犯另一个错误。人们也想知道更多,这样他们就可以直接帮助人工智能纠正错误行为。

互动计算教授Mark Riedl表示,“对人工智能机器人的感知和偏好的理解,为我们提供了一套强大的可操作的见解,可以帮助我们设计出更好的以人为本,理性的、自主的智能体。”

研究的未来可能方向将把研究结果应用于各种类型的自主智能体,让它们根据手头的任务做出反应,例如它们可以应用在紧急响应救援,或是在教室帮助教师处理任务。

本文分享自微信公众号 - ATYUN订阅号(atyun_com),作者:关注人工智能的

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-04-19

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • DataRobot:人工智能道德规范,通过遵循伦理实践来建立信任(一)

    随着机器学习和人工智能的发展,似乎每个人都想进入这一领域,人工智能承诺提高准确性、速度、可伸缩性、个性化、一致性和业务各个领域的清晰度。有了这些优势,为什么有些...

    AiTechYun
  • 福布斯等出版团队加快使用AI自动生成新闻的步伐

    自动化正在影响各种领域。现在,很多出版社正在使用AI帮助生成想法,这些想法可能在以后演变为可发表的文章。

    AiTechYun
  • 5G+AI赋能产业升级

    今年以来,伴随着移动互联网红利逐渐消失,中美“贸易战”摩擦阴影下,所有人都在寻找新的经济和科技增长点。经过几年高速发展,日趋成熟的AI产业逐渐成为新一轮科技革命...

    AiTechYun
  • 倪光南李开复景鲲等15位产业领袖纵论中国AI现状:价值重估,落地为王

    12月6日,北京,量子位召开首届MEET 2020智能未来大会,并且就“新价值、新边界,新格局”为主题进行探讨。

    量子位
  • 英美签署新协议,在人工智能领域展开合作,进一步对抗中国

    据外媒报道,近日特朗普政府将宣布,美国和英国已经签署了一项新协议,在人工智能的研发方面进行合作。

    新智元
  • 人工智能发展史

    我一直很好奇人工智能是如何提出来的,它背后有什么样的故事,在人工智能发展的这60年的时间中,又经历了什么?为什么现在才是人工智能的爆发点,未来人工智能又将走向何...

    纯洁的微笑
  • 【清华 AI 公开课】IJCAI理事长杨强:人工智能在企业的落地是一门大学问

    新智元
  • 真正落地的AI应用应该是什么样?

    2019年,“落地”被大家反复述说,也是AI领域公司齐头涌进的前方。无论是阿里、商汤等第一梯队玩家,还是曾经势头高涨的创企们,现都纷纷沉入场景,将热情投入到了探...

    镁客网
  • 那些打着AI万金油旗号的产品欺骗大众,如何识别?

    如今,很多打着AI名号售出的产品都属于万金油系列,没什么实质性的功能。为什么会这样?我们应该如何识别这类AI?

    AI科技大本营
  • 第九周AI十大要闻 | 中国AI企业数达千家,科创板IPO年营收最低5亿

    中国互联网络信息中心(CNNIC)今日发布第43次《中国互联网络发展状况统计报告》,我国网民达8.29亿,全年新增网民5653万。

    量子位

扫码关注云+社区

领取腾讯云代金券