美媒:人工智能可能自行产生偏见 趋势演变很难扭转

美媒称,新研究表明,对他人表现出偏见并不需要很高的认知能力,人工智能机器很容易就能表现出来。

据美国每日科学网站9月6日报道,英国加的夫大学和美国麻省理工学院的计算机科学和心理学专家已经证明,几组自动机器仅仅通过相互之间识别、模仿和学习偏见就能表现出这种行为。

报道称,偏见似乎是人类特有的一种现象,需要以人类的认知能力去对某个人或群体形成某种看法或成见。

尽管某些类型的计算机算法根据从公共记录和人类产生的其他数据中学到的知识已经表现出了偏见,例如种族偏见和性别歧视,但这项新研究表明,人工智能有可能自行演化为心怀偏见的群体。

报道称,这些新发现发表在英国《科学报告》杂志上,其依据是,计算机模拟了拥有类似偏见的个体或虚拟代理人如何形成一个群体并彼此互动。

在一个平等交换游戏中,每个个体根据别人的名声以及自己的捐赠策略(包括对外来者的偏见程度),来决定是捐给自己所在群体中的某个人还是另一个群体中的某个人。

随着游戏展开,一台超级计算机进行了数千次模拟,每个个体开始通过效仿自己所在群体或整个群体中的其他个体来学习新的策略。

研究报告的作者之一、加的夫大学犯罪与安全研究所和计算机科学与信息学学院的罗杰·惠特克教授说:“通过成千上万次模拟,我们开始了解偏见是如何形成的,以及助长或阻碍偏见的条件是什么。我们的模拟显示,偏见是一种强大的自然力,通过演变,偏见很容易在虚拟人群中受到激励,不利于与他人构建更广泛的联系。来自偏见群体的保护会无意中导致个体进一步组成偏见群体,使得群体四分五裂。这种普遍的偏见很难扭转。”

这一研究结果表明,个体会通过优先效仿短期收益更高的对象来更新自己的偏见程度,这意味着作出此种决定未必需要具备高级认知能力。

惠特克教授还说:“能够识别歧视和模仿他人的自动机器今后很容易受到我们在人类中看到的偏见现象的影响,这是有可能的。”

文章来源:新华网

-

原文发布于微信公众号 - 专知(Quan_Zhuanzhi)

原文发表时间:2018-09-10

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人称T客

2014中国X86服务器客户满意度分析:华为低满意度需反思

昨天发布了X86服务器品牌认知度分析,华为成为国产厂商最强品牌,但是在用户整体满意度上却与品牌认知上存在很大反差,最低的满意度表现与国际大厂商身份显然不符。 ...

3688
来自专栏人称T客

2013-2014 年中国大型ERP 产品满意度研究报告完整版

第一章:主要发现和结论 一.ERP市场逐渐从产品导向型销售环境往服务型销售环境跨越,ERP厂商的的综合服务能力越来越受到用户的重视。目前客户的市场需求,也逐渐迫...

2924
来自专栏科技向令说

响铃:百度Q2财报再创新高,恰是踩对了内容赛道的拐点

又涨了!近日百度2018Q2财报发布,营收额达260亿元人民币,在Q1总营收209亿元的基础上继续增长。而这亮眼的成绩离不开其核心业务“搜索+信息流“所做出的贡...

813
来自专栏罗超频道

百度信息流超过今日头条,然而它的野心却不止于此

昨夜今晨,百度股价延续近几个月来的强势表现,正如我前几天预测的那样:其市值超越2014年的历史峰值,站上874.64亿美元的历史高位,这也标志着百度“All i...

3065
来自专栏罗超频道

押对信息流,百度站上全新起点

在经过半年的爬升后,百度股价正在逼近历史最高点,不出意外的话,百度市值在最近几个交易日内有望再次创造新高。一度距离百度只有一步之遥的京东,市值已经被百度拉开很长...

3525
来自专栏专知

地平线创始人余凯:为智能终端设备装上“大脑”

余凯在地平线人工智能芯片发布会上。 硅谷传奇风险投资家Yuri Milner在与地平线创始人兼CEO余凯交谈时曾问道:“10年后,我们的生活将因地平线的存在而发...

2795
来自专栏新智元

余凯重磅发布地平线中国芯“征程”与“旭日”,中国首款嵌入式人工智能视觉芯片问世

作者:胡祥杰 【新智元导读】终于,余凯创办地平线两年后发布了首款芯片——两颗面向计算机视觉的处理器,分别用于无人驾驶和智能摄像头。我们第一时间带来芯片性能和特点...

3765
来自专栏SDNLAB

唐雄燕:电信运营商SD-WAN服务的机遇与挑战

今天2018 SD-WAN峰会在北京召开,中国联通网络技术研究院首席科学家唐雄燕先生为我们带来主题演讲“电信运营商SD-WAN服务的机遇与挑战”。

1172
来自专栏人称T客

传统ERP四面楚歌 云端挑战不可避免

这个话题已讨论很久,关于传统的本地部署ERP正在遭受到云端挑战,这一现象在前几年还不那么明显,但是这近两年,随着云计算应用的普及和渗透,传统ERP市场下滑趋势明...

3906
来自专栏罗超频道

百度二次创业:不把信息流搞成第二个搜索不罢休

最近发现手机百度的资讯推送比过往更加频密,每天起床拿起手机就能看到来自手机百度的通知,平时一些突发热点事件的推送,手机百度甚至比新闻客户端还要及时。手机百度不再...

3236

扫码关注云+社区

领取腾讯云代金券