IBM Watson提出人机推理网络HuMaINs,结合人机两者优势

选自arXiv

机器之心编译

参与:刘晓坤、黄小天

人机交互可以用机器的优势弥补人类决策的非理性缺陷。近日,IBM Watson 研究中心联合多家研究机构提出了人机推理网络 HuMaINs 架构,论文集中讨论了三个主要问题,即架构设计、包含安全性/隐私挑战的推理算法,以及应用领域/用例。

在传统的经济学、认知心理学和人工智能领域的文献中,问题求解或推理过程通常按搜索问题空间的方式描述,该空间由问题的多个不同的状态构成,从一个初始状态开始,最终达到所需的目标状态 [1]。以初始状态为起点的每一个路径代表一个可能的策略。这些路径可能走向目标状态,或其它的非目标状态。以初始状态为起点的走向目标状态的路径被称为解决路径(solution path)。在初始和目标状态之间可能存在多个这样的路径,这些都是问题的解决方案。换种说法,即有多种方法可以求解一个给定的问题。问题求解过程是指在多个解决路径中识别最优(在给定的约束条件下)的解决路径。

该搜索过程的第一步是确定可用策略的集合,即确定策略空间。第二步是评估这些策略以确定最优的策略作为解决方案。在传统的经济学理论中,会假定理性决策者具有可能策略的集合的知识,可以评估每一个策略的后果,并拥有一个效用函数,并最大化该函数以确定最优的策略 [2]。然而,人们普遍认为人类不是理性的,而是有限理性的智能体。在有限理性框架中 [2,3],决策者的认知、时间、信息和资源都是有限的。策略集合并不是完全先验地知道的,决策者也并不能完全知道选择特定策略的后果。因此,决策者可能无法总是为问题求解确定最优的策略。

另一方面,机器是「理性」的,因为它们有更强/更大的内存来存储替代方案,并有计算能力可以更精确地评估特定替代方案的结果。因此,机器可以帮助人类快速而准确地解决问题,因此出现了人机协作以解决问题的框架。在本论文中,通过定义 HuMaINs,作者探讨了用于推理的这一协作框架,以及与开发这一框架相关的研究挑战。该领域的三个基本研究思路已得到界定。

论文标题:Human-Machine Inference Networks For Smart Decision Making: Opportunities and Challenges

论文链接:https://arxiv.org/abs/1801.09626

人机推理网络(HuMaINs)的新兴范式以一种智能的方式整合了人类与机器的现代认知优势,从而解决不同的推理任务,表现要优于人类或机器单独执行的效果。尽管只针对于人类或传感器网络的推理性能优化技术已经相当成熟,HuMaINs 依然需要全新的信号处理和机器学习方案。在本论文中,我们概述了 HuMaINs 架构,并聚焦于三个主要问题,即架构设计、包含安全性/隐私挑战的推理算法,以及应用领域/用例。

图 1:概念性 HuMaINs 架构

图 1 展示了典型的人机推理网络(HuMaINs)。典型的 HuMaINs 由一个社交网络和一个机器网络构成。在社交网络中,人类互相交换主观观点;在机器网络中,机器互相交换客观度量。此外,通过社交网络和机器网络的交互,由人类行为特征决定的算法传递给机器,然后这些算法反过来影响人类的行为。因此,通过结合人类和机器的优势,人类和机器之间的智能协作可以提供更优的结果。

人机交互的架构可以分成三类:(1)人类直接控制自动化系统;(2)自动化系统监控人类,在必要时采取行动;(3)两者的结合。为了达到 HuMaINs 的目标,构建一个可以融合人类和机器的决策过程的架构是很关键的。文献 [6] 中宣称,为现代自动化系统创建顶尖的操作环境,需要在三个主要的领域持续开发新的技术:决策支持工具、人体工程和可视化工具、易用的复杂系统。

图 2:设计和分析 HuMaINs 的一般方法

HuMaINs 的关键研究领域是开发新的处理人类行为数据的算法。这个领域演变成了一种新兴研究领域的范式,称为行为信号处理(behavioral signal processing,BSP)[8]。BSP 处理的是人类行为的信号。它被定义为对人类动作和行为数据的处理,进行有意义的分析,通过人类专家和自动化处理的协作,以确保及时的决策和干预。其目标是支持人类,而不是取代人类 [8]。核心要素包括人类行为的定量分析,以及交互动力学的数学建模。Narayan 和 Georgiou 将 BSP 的要素描述为,利用语音和口语交流对人类行为进行度量和建模 [8]。

在 HuMaINs 中开发 BSP 算法有两个具体的研究方向:

1. 利用统计建模技术开发人类决策的数学模型,和认知心理学密切协作。

2. 设计鲁棒的融合算法以处理智能体提供的不可靠数据,这些数据由上述开发的模型建模。

本文为机器之心编译,转载请联系本公众号获得授权。

✄------------------------------------------------

本文来自企鹅号 - 机器之心媒体

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

数据科学,机器学习和人工智能有什么区别?

当我介绍自己时,经常会被人问到诸如“机器学习和xx有何区别?”或“你在使用人工智能吗?”等问题。类似问题我已经回复了很多次,按照我的"3原则”我决定写一篇博文:...

3095
来自专栏ATYUN订阅号

MIT研究:开发机器学习模型使计算机更自然地解释人类情绪

麻省理工学院媒体实验室的研究人员开发了一种机器学习模型,它使计算机更接近于像人类一样自然地解释我们的情绪。

1012
来自专栏机器学习原理

知识图谱和可解释性深度学习的发展深度学习问题知识图谱为可解释提供依据利用知识图谱对可解释性应用知识图谱在可解释性上的困难

3844
来自专栏新智元

DeepMind提出想象智能体,更鲁棒AlphaGo逼近真实世界

【新智元导读】DeepMind 最新发布的两篇论文提出了有想象力和计划能力的智能体。这些智能体能够想象行动结果、制定计划,为最高效地完成任务提供了新方法。智能体...

3737
来自专栏吉浦迅科技

NVIDIA研究员如何进行机器人的抓取研究(附Deep Object Pose Estimation 代码)

英伟达的机器人研究人员开发了一种基于深度学习的新系统,该系统允许机器人在其环境中感知家居物体,以获取物体并与之互动。通过这种技术,机器人能够对已知的家用物体进行...

2042
来自专栏AI科技评论

和 DeepMind 一起考虑如何在 AI 中重现人类的价值观

AI 科技评论按:现在提到 AI 的时候,大家已经很少联想到电影《终结者》中的天网那样有自己独特思维逻辑以至于得出了反人类结论的「超人类智能」了。这当然是件好事...

892
来自专栏人工智能快报

科学家提出超越传统机器学习的量子算法

来自瑞士、英国和新加坡的科学家提出了一种新的量子算法,其进行数据分析的速度可超越传统机器学习算法,相关成果已发表在《物理评论快报》上。 计算机“思考”的一种方法...

2889
来自专栏PPV课数据科学社区

数据挖掘模型的9条经验总结

第一,目标律:业务目标是所有数据解决方案的源头 它定义了数据挖掘的主题:数据挖掘关注解决业务业问题和实现业务目标。数据挖掘主要不是一种技术,而是一...

3406
来自专栏镁客网

Leslie Valiant:机器学习所面临的挑战

9月6日,以“AI赋能,驱动未来”为主题的2018中国人工智能峰会(CAIS 2018)在南京国际博览会议中心成功召开。本次峰会汇聚了Leslie Valian...

922
来自专栏云市场·精选汇

AI学院 | 人工智能基本知识概览

人工智能(Artificial Intelligence):缩写为AI,是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。

1936

扫码关注云+社区

领取腾讯云代金券