科学家想这样给人工智能“去偏”……

人工智能本来并不存在偏见,它不会因为无法通过逻辑来解释的理由而“想”某些东西是真的或假的。不幸的是,从创建算法到解释数据,机器学习中存在着人类的偏见,并且直到现在,几乎没有人试图解决这个严重的问题。

来自捷克和德国的科学家团队最近进行了一项研究,以确定人类认知偏见对解释用于创建机器学习输出规则的影响。

该团队的白皮书解释了20种不同的认知偏见如何潜在地改变机器学习规则的开发,并提出了给它们“去偏”(debiasing)的方法。

偏见,诸如“确认偏见”(confirmation bias)(当一个人接受一个结果是因为它确认了一个先前的信念)或“可用性偏见”(availability bias)(比较重视与个体有关的信息,而不是同样有价值的不太熟悉的信息)会使机器学习数据的解释变得豪无意义。

当这些类型的人为错误成为人工智能的一部分时——这意味着我们的偏见负责选择一种训练规则,这种训练规则塑造了机器学习模型的创造——我们不是在创造人工智能:我们只是混淆我们自己在黑盒子里面有缺陷的观察。

根据白皮书所述,这是全新的领域:

由于缺乏先前的研究,我们的研究将认知心理学中的一般结果转移到机器学习领域。它需要通过专门针对机器学习领域的实证研究来取得成功。

随着越来越多的人工智能系统上线,个人责任感也在发生变化。很快,大多数车辆将由机器操作,大量的手术和医疗程序将由机器人进行。当悲剧发生时,人们会指责AI开发人员,甚至会把某些人当作替罪羊。

研究人员针对他们所研究的每种认知偏见提出了一种去偏旁解决方案。对于许多问题,解决方案与改变数据表示方式一样简单。例如,该团队假设,将算法的输出更改为使用比自然数更多的比率可以大大减少误解某些结果的可能性。

不幸的是,总的问题并没有简单的解决方法。大多数时候,我们不知道自己有偏见。我们相信自己非常聪明或直觉 ,或者我们只是不去想。机器学习程序员需要关注的不仅仅是20种不同的认知偏见。

即使算法是完美的,输出是不变的,我们的认知偏见也使得我们对数据的解释不怎么可靠。每个人都有这样或那样的偏见,这使得它关于如何影响数据解释的研究很少。

该团队介绍:

据我们所知,认知偏见尚未涉及机器学习结果的可解释性讨论。因此,我们发起了这项研究,研究结果发表在认知科学上,目的是为归纳规则学习算法的变化以及结果传播的方式提供心理基础。我们的审查确定了20种认知偏见,启发式和效应,当解释归纳学习规则时可能引起系统性错误。

重要的是,全世界的研究人员都要依靠这项工作并发现避免机器学习中的认知偏见的方法。 否则AI只不过是人类偏见的放大器而已。糟糕的科学势必造就更糟糕的机器人。

原文发布于微信公众号 - 机器人网(robot_globalsources)

原文发表时间:2018-04-12

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏PPV课数据科学社区

【技术】简单实用的电商数据分析方法论

导读:说到数据分析,大家可能就会想到回归,聚类什么的,不过对于电商的小伙伴来说,这些都太复杂了。而实际分析的时候,其实并不需要这么复杂的算法,大家需要的只是: ...

3684
来自专栏AI科技大本营的专栏

DeepMind科学家:AI对战《星际争霸》胜算几何?

记者 | 周翔 AI科技大本营1月29日消息,在《麻省理工科技评论》与深科技举办的新兴科技峰会上,谷歌DeepMind科学家Oriol Vinyals在会上发表...

38710
来自专栏新智元

【重磅】DeepMind进军星际争霸2,谷歌Facebook打响通用AI战争

【新智元导读】7日,Facebook刚刚宣布开源史上最大的《星际争霸》游戏数据集STARDATA。今天(10日)DeepMind在官方博客上宣布开源星际争霸2 ...

3984
来自专栏产品成长日志

要想学习好,套路不能少

视频中所提及的定桩记忆法,常用100个数字桩,神奇的大脑论文请点击【阅读原文】下载使用。

1023
来自专栏ATYUN订阅号

微软改进Face API,显著降低肤色识别错误率

这一改进解决了最近的担忧,即商业上可用的面部识别技术更准确地识别出肤色较浅的人的性别,而不是深色的肤色,而且他们在肤色较浅的男性身上表现最好,而肤色较深的女性则...

1112
来自专栏程序员笔记

读书「精进」

2096
来自专栏新智元

AI算法透明不是必须,黑箱和可解释性可简化为优化问题

来源:nytimes、wired 作者:Vijay Pande、David Weinberger 【新智元导读】由于AI算法内部的运作往往是不透明的,AI的黑箱...

3788
来自专栏新智元

【DOTA之后新里程碑】DeepMind强化学习重大突破:AI在多人射击游戏完胜人类!

【新智元导读】继OpenAI之后,DeepMind也在多智能体强化学习方面秀肌肉:首次在第一人称射击游戏的多人模式中完胜人类,而且没有使用大量训练局数,轻松超过...

850
来自专栏AI科技评论

专访Jeff Dean:我们要推动机器学习再上一层楼

AI 科技评论按:Jeff Dean是谷歌研究院的高级研究员,也是谷歌的人工智能团队谷歌大脑(Google Brain)的负责人。身披华盛顿大学博士、美国工程院...

3819
来自专栏企鹅号快讯

基于深度强化学习的平行企业资源计划

随着社会化和网络化趋势的日益增强, 企业已全面而深度地融入网络环境, 并已演变成为现实物理世界、网络虚拟世界和社会耦合空间的现代新型企业。在以信息技术和网络技术...

2766

扫码关注云+社区

领取腾讯云代金券