首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

人工智能很恐怖,竟然可以产生性别和种族歧视!

社交读心术

社交,从未如此轻松

据英国《每日邮报》10月6日报道,来自英国卡迪夫大学和美国麻省理工学院的计算机科学和心理学专家发现,自主机器人可以通过识别、复制、学习其他机器人的行为产生偏见,某些种类的算法已经产生性别歧视和种族歧视。

歧视看似是人类社会中特有的、需要认知才能产生的现象。但是,某些类型的计算机算法已经从公开档案等人类资料中习得了性别歧视、种族歧视等偏见。最新的一项研究甚至发现,人工智能可以进化出不同的偏见群体。

为证实人工智能可以自己产生偏见,科学家用计算机模拟博弈。博弈中,每个个体都可以将钱送给自己所在的群体或其他群体,以测试每个个体的给予策略,观察其是否对其他群体有偏见。这一博弈由一台超级计算机模拟,其中包括上千个个体,每个个体都可以通过复制其他来自相同群体或不同群体的个体学习新的策略。

参与研究的卡迪夫大学计算机科学与信息学教授Roger Whitaker表示:“通过成千上万次模拟,我们发现了偏见是如何演化的、哪些情况可以激化偏见、哪些情况可以减弱偏见。我们的研究表明,偏见是自然产生的、影响非常大的,它很容易被激励、损害大范围的连通性。

来自同一偏见群体的保护可以非主观地引起更进一步的偏见,使整个群体四分五裂。这种广泛传播的偏见很难逆转。”这些个体是通过复制那些有更高短期效益的个体使得偏见升级的,可见偏见并不需要高级认知能力。

在另一项关于性别的研究中,研究人员发现,微软、IBM和Face++等的人脸识别服务中存在性别歧视和种族歧视。这些服务对于男性白人更加友好,而对于男性黑人和女性黑人错误率最高。微软在21%情况下无法识别黑人女性,而IBM和Face++有35%情况无法识别。

今日给大家推荐超实用的公众号

↓↓↓↓↓↓

社交读心术

社交,从未如此轻松

装修設記

有料 超实用装修指南

男装搭配

一个让你停不下来的穿搭号

心理医生杂志社

最易懂的心理学,陪你温暖成长

如果觉得文章不错,欢迎点赞、分享到朋友圈哦~

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181010B0BKW300?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券