微软开发新工具试图防止AI算法中的偏见


新智元编译

来源:futurism

编辑:肖琴

【新智元导读】微软希望创建一种工具来检测AI算法,并提醒人们算法可能基于种族或性别对待他们。

微软公司最新加入试图解决算法偏见的科技公司行列——算法偏见是指,提供给AI系统的数据不足,以致结果反映出社会本身的偏见或不公平的观点。

微软加入谷歌和Facebook的行列,创建工具来寻找未适当训练的AI。但是微软用于发现算法偏见的新算法只能找到并标记算法已经存在的问题。这意味着,比如说,导致警察偏见增加的程序如果没被发现,仍然会被建立和使用。

为了真正地创造公平、惠及每一个人的AI,需要在前端有更多关注。公司可以通过第三方来审查他们的算法,例如引入外部专家,并在代码本身或被输入的数据中寻找偏见的迹象。

一些人工智能公司已经开始聘请审查人员来查看他们的代码。但这也要求AI系统足够简单,一遍有人能够发现问题区域,或者要求审查人员精通代码。对于更复杂的深度学习算法来说,这种方法并不总是可行。

另一个可能的答案是,为实际创造AI的人提供更好的培训,这样他们就能更好地发现自己的观点和偏见,并防止这些偏见被算法解释为事实。这并不意味着程序员们正在编码种族主义机器。但是,因为每个人都有某些隐含的偏见,技术世界将会从帮助人们更好地理解他们自己的世界观中受益。

这些都是主要的解决方案,需要对技术的开发方式进行观念上的转变,即使对希望开发这些过滤器和标记算法偏见的公司来说也是如此。

研究人员和公司开始关注这个问题,这是一个好的迹象。

原文发布于微信公众号 - 新智元(AI_era)

原文发表时间:2018-05-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏新智元

【生物网络为什么需要层次?】三大演化动力有助智能诞生

【新智元导读】最新研究发现,包括人脑在内的生物网络结构之所以会具有层次,是为了减少网络连接点,从而提高网络连接效率。该研究不仅揭开了生物网络拥有层次的原因,还有...

4225
来自专栏PPV课数据科学社区

【学习】大数据技术学习路线指南:[2]实践原型

大数据的目的在于挖掘价值,而它的本质与OODA循环决策模型非常相似。用OODA这个原型来理解大数据是最合适的了!在战场上,OODA循环决策的周期越短,胜算越大;...

3806
来自专栏ATYUN订阅号

【业界】DeepMind推出了世界上第一个评估危险AI和算法的测试

AI正被应用在各大领域,但到目前为止,我们还无法评估这些AI可能会带来多大的危险或多大的威胁。 ? 今年早些时候,一群世界专家召开会议,讨论世界末日的情况和应对...

3789
来自专栏Cloud Native - 产品级敏捷

软件度量与软件质量间本就不该有 "直接" 的关连

软件度量一直是软件开发中最容易引起争议、也最难能说服团队的一项吃力又很不讨好的工作。

1701
来自专栏新智元

雅虎发布可修改人工智能源代码 CaffeOnSpark

又有一家科技巨头向全世界公开了他们的 know-how 人工智能。今天,Yahoo 发布了 CaffeOnSpark 人工智能的源代码,每个学术研究人员或是大公...

4127
来自专栏大数据挖掘DT机器学习

深度学习word2vec笔记(应用篇)

好不容易学了一个深度学习的算法,大家是否比较爽了?但是回头想想,学这个是为了什么?吹牛皮吗?写论文吗?参加竞赛拿奖吗? 不管哪个原因,都显得有点校园思维了。 站...

4008
来自专栏专知

【前沿】人工智能系统的四大趋势与九大挑战,美国Berkeley14位重量级学者(包含机器学习泰斗Jordan)最新观点

【导读】最近,加州大学伯克利分校大学的大牛们针对目前AI的火爆形势,又总结了一篇《A Berkeley View of Systems Challenges f...

1.1K6
来自专栏PPV课数据科学社区

【技术】大数据关键技术

大数据技术,就是从各种类型的数据中快速获得有价值信息的技术。大数据领域已经涌现出了大量新的技术,它们成为大数据采集、存储、处理和呈现的有力武器。 ...

3644
来自专栏专知

【一周AI热点干货概览】图深度学习/知识图谱构建推理/自注意力框架/自动驾驶/AI冬天论 (附pdf下载)

4376
来自专栏人工智能头条

去苹果做 AI 一共分几步?看看这套面试指南吧(附面试题)

2032

扫码关注云+社区

领取腾讯云代金券