专栏首页ATYUN订阅号科学家们提出了一种解决AI偏见的方案

科学家们提出了一种解决AI偏见的方案

编辑 | TGS 发布 | ATYUN订阅号

近年来,由于人工智能技术的一些飞跃,计算机已经学会了更清晰地观察世界。但业内人士都清楚,这些人工智能算法的缺陷。最近一项实验表明,最好的人工智能视觉系统可能会在看到一张照片吐出种族污蔑、性别刻板印象,或者一个诋毁对方性格的词汇。

现在,机器学习视觉的科学家们已经消除了一些隐藏在他们上课使用数据中的人类偏见。他们表示,这些变化可以帮助人工智能更公平地看待事物。但这些努力却也表明,消除人工智能系统的偏见仍然很困难,部分原因是它们仍然依赖人类来训练它们。

消除人工智能偏见,主要旨在消除隐藏的偏见和偏见的自动化系统。这是一个至关重要的问题,因为人工智能的部署速度很快,而且可能会产生严重影响。偏见已经在面部识别系统、招聘程序和网络搜索背后的算法中得到了确认。视觉系统正被应用于警务等关键领域,在这些领域,偏见可能会让监控系统更容易将少数族裔误当成罪犯。

2012年,一个名为ImageNet的项目在释放人工智能潜力方面发挥了关键作用,该项目为开发人员提供了一个巨大的库,用于训练计算机识别视觉概念,包括从鲜花到滑雪板的所有东西。斯坦福、普林斯顿和北卡罗来纳大学的科学家们向该团队支付了一小笔钱,让他们给1400多万张图片贴上标签,逐渐积累了大量的数据。

当这个数据集被输入一个大型神经网络时,它会创造出一个图像识别系统,以惊人的准确性识别事物。该算法从许多例子中学习,以识别揭示高级概念的模式,如:构成幼犬纹理和形状的像素。一项测试使用ImageNet开发的算法的竞赛表明,最好的深度学习算法能够正确地将图像和人进行分类。建立在ImageNet上的系统的成功,引发了一波人工智能的热潮和投资,以及其他领域的进步,带来了先进的智能手机摄像头和自动化车辆等新技术。

但在之后的几年里,其他研究人员发现了ImageNet数据中隐藏的问题。例如,如果标记为“程序员”的图像库是倾斜的,那么使用数据训练的算法可能会假设程序员是白人。

最近,一个名为“挖掘人工智能”的病毒网络项目也强调了添加到ImageNet上的标签中的偏见。通过这个项目的网站(现在已经下线了),人们可以提交一张照片,看到隐藏在使用数据集训练的人工智能模型中的术语。这些之所以存在,是因为添加标签的人可能在“老师”或“女人”之类的标签之外还添加了贬义的术语、词汇。

ImageNet团队分析了他们的数据集,以揭示这些和其他来源的偏见,然后采取措施解决这些问题。团队评估了照片中的人口和地理多样性,并开发了一种工具来呈现更多样化的图像。例如,通常情况下,“程序员”这个词可能会产生大量白人在电脑前的照片。但有了该组织计划在未来几个月发布的新工具,就可以生成一组在性别、种族和年龄方面表现出更大多样性的图像,并用于训练人工智能算法。

end

本文分享自微信公众号 - ATYUN订阅号(atyun_com),作者:关注人工智能的

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-12-22

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 现实中的人工智能

    尽管人工智能在商业领域的例子数不胜数,但通常还是会被视为一种新生的、仍在兴起的力量。事实上,人工智能已经得到了广泛的应用。它对许多企业的科技平台至关重要,例如:

    AiTechYun
  • 人工智能系统的演化

    人工智能即将改变商业和社会。金融公司瑞士联合银行预测,由于人工智能技术的巨大进步和更广泛的应用,明年人工智能市场的价值将达到125亿美元。波士顿咨询公司亨德森研...

    AiTechYun
  • 基于慢速脑动力,新型超速人工智能算法的学习效率超过现有算法

    70年前引入的机器学习基于大脑学习动力学。利用现代计算机和大型数据集的速度,深度学习算法产生的结果可在不同领域与人类专家相媲美,但具有与当前神经科学学习知识相悖...

    AiTechYun
  • JavaScript事件与例子(三)

    两个例子,好友选中效果和左侧右侧子菜单 一、好友选中效果 可以通过设置属性的方式判断当前是否被选中,也可以通过获取当前元素的颜色从而得知当前元素状态是否被选中,...

    二十三年蝉
  • react组件间的通信

    在使用react过程中,不可避免的需要组件间的数据通信,数据通信一般情况有一下几种情况:

    无邪Z
  • 一步步实现静态页面布局

    本文内容概要: 1 CSS选择器 2 盒模型 3 浮动 4 页面布局案例 5 课后习题 上周我们详解的讲解了一个网站的开发流程以及如何使用标签来进行一个网页的布...

    HTML5学堂
  • react 基础之组件篇三——设计复合组件

    书接上文——react 基础之组件篇二——Style in React 本节精彩继续,阿拉斯加继续装逼如何优雅的写bugger!!!

    夜尽天明
  • SAP Spartacus ConfigurationService

    Service实现类上的@Injectable注解:@injectable 一般用在Angular的Service中,表明该Service实例可以注入到其他的s...

    Jerry Wang
  • 使用react render props实现倒计时

    react的组件模式可以观看Michael Chan的演讲视频,平时大家常听到的react模式也是HOC, HOC的使用场景很多,譬如react-redu...

    IMWeb前端团队
  • 第8天:CSS制作导航栏

    今天主要学习了网页导航栏的制作。注意:引入外部CSS样式时,如果使用background:url(../images/1.png),一定记得用..跳出当前文件夹...

    半指温柔乐

扫码关注云+社区

领取腾讯云代金券