专栏首页镁客网AI性别歧视有救,MIT研究人员给出减少AI预测偏差新方法

AI性别歧视有救,MIT研究人员给出减少AI预测偏差新方法

该成果将于下个月在蒙特利尔的神经信息处理系统(NIPS)上公布。

策划&撰写:Lynn

在社交媒体的应用场景中,人工智能算法模型的偏差导致搜索结果或用户体验不佳常常出现,甚至可以说是无法规避,如人们熟知的大数据杀熟等。可以预见,当AI应用到医疗保健、自动驾驶汽车、刑事司法或刑事处理等场景中时,更多关乎生命、公平、道德等的问题将会出现。此前,亚马逊用AI招聘出现了性别歧视问题就是有力的证明。

在世界每一个角落部署AI,这可能导致持续的系统性歧视,为此MIT计算机科学人工智能实验室(CSAIL)研究人员创造了一种减少AI偏差,同时又不降低预测结果准确性的方法。

据麻省理工学院教授DavidSontag所言,传统方法可能建议将与多数人群相关的数据集随机化,作为解决不同人群不平等结果的一种方法,但这种方会权衡较低的预测准确性,以实现所有人群的公平性,关键是从代表性不足的群体中挖掘更多数据。例如,研究人员发现,在一个案例中,AI模型将女性标记为低收入,男性标记为高收入,这是有失客观性的,因此他们通过将数据集中女性的代表性提高10倍,达到了将不准确结果的数量减少了40%的效果。

Sontag在一份声明中给出这一设计的简单解释:“我们认为这是一个工具箱,可帮助机器学习工程师弄清楚他们的数据要问什么问题,以便诊断他们的系统为什么会做出不公平的预测。”

他进一步解释说:“在这项工作中,我们认为预测的公平性应该在数据的背景下进行评估,并且样本量不足或未测量的预测变量引起的不公平性应该通过数据收集来解决,而不是通过约束模型来解决。”

诚然,预测准确性的差异往往归因于数据缺乏或不可测量的变量因素,因此该研究团队建议在进行公平标准评论之前,对模型偏差,模型方差和结果噪声进行AI模型分析。

对于这一研究的成本,Sontag表示,“这揭示并分离了数据收集不足和模型选择对公平性的不利影响。为了追求公平,其成本也要纳入到数据收集和模型开发的投资。但在某些十分重要的应用程序中,其好处往往超过成本。“

在Sontag与其博士团队一起撰写的论文中,有这一方法的详细解释。据悉,该成果将于下个月在蒙特利尔的神经信息处理系统(NIPS)上公布。

本文分享自微信公众号 - 镁客网(im2maker)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2018-11-17

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 科大讯飞首提三大AI布局方向,1024程序员节推1024计划,还拿出10.24亿扶植AI开发者

    镁客网
  • AI又要和人类“对打”,Deepmind宣布《星战Ⅱ》即将开始

    AI又要和人类“对打”了!今天凌晨,Deepmind在推特上官宣,将和暴雪联合,于北京时间周五凌晨两点,在Twitch上直播AI打《星际争霸II》。

    镁客网
  • 阅面携手英特尔发布“繁星”的背后,是AI算法“端”和“云”之争

    镁客网
  • 【React 实战教程】从0到1 构建 github star管理工具

    在日常使用github中,除了利用git进行项目版本控制之外,最多的用处就是游览各式的项目,在看到一些有趣或者有用的项目之后,我们通常就会顺手star,目的是日...

    用户2356368
  • 英特尔利用计算机视觉来帮助企鹅免于灭绝

    根据《英国南极调查》(British Antarctic Survey)2019年的一项研究,南极皇帝企鹅种群遭受了与气候有关的严重繁殖问题,到2100年,它有...

    AiTechYun
  • 如何将机器学习模型转移到产品中

    针对于特定问题(例如自然语言处理,即 NLP,或图像识别)的深度学习模型开发、训练和调参,需要耗费时间与资源。这通常还包括使用功能强大的处理器来训练大型数据集上...

    StoneDemo
  • 动态语言的灵活性是把双刃剑:以 Python 语言为例

    新媒体管家 关键时刻,第一时间送达! 本文有些零碎,总题来说,包括两个问题:(1)可变对象(最常见的是list dict)被意外修改的问题,(2)对参数(par...

    企鹅号小编
  • 2018年AI将面临更多的挑战

    2017年,我们亲眼目睹了人工智能领域的数个重大突破。可是如果你最近和Siri或是Alexa聊过天,你就会发现在风口之下,仍有许多东西是AI无法理解的。以下我们...

    企鹅号小编
  • 机遇 | AI 催生新的工作机遇:5个未来会很吃香的岗位!

    人工智能与人类工作是当下许多人津津乐道的一个话题,而讨论的重点大多是围绕在“未来人工智能会不会抢走我们的工作”这个方面。

    灯塔大数据
  • 杨强用联邦学习打破「数据孤岛」,吴恩达谈企业AI转型五要素 | 市北·GMIS 2019

    在前沿技术方面,杨强教授分享了如何用联邦学习打破数据割裂,吴恩达谈到小数据、无监督学习对未来人工智能发展的重要性,俞凯也抛出认知智能的技术演进路线。

    机器之心

扫码关注云+社区

领取腾讯云代金券

玩转腾讯云 有奖征文活动