专栏首页新智元图灵奖得主Yann LeCun发推道歉!Google AI黑人女科学家批其种族歧视,网友喊冤

图灵奖得主Yann LeCun发推道歉!Google AI黑人女科学家批其种族歧视,网友喊冤

新智元原创

编辑:鹏飞,永上

【新智元导读】BLM运动已经延伸至AI界。Yann LeCun此前发推称当数据有偏差时,ML系统就会有偏差。在白人为主的数据集训练后,生成的人脸偏白;在黑人为主的数据集训练后偏黑。遭到网友声讨。LeCun随后向提出质疑的黑人女科学家道歉。

美国新冠疫情依旧迅猛,已经突破250万。

而同时在美国如火如荼进行的,还有BLM运动。这场运动已经从民间上升到了政界,渗透进商业界,如今已经深入到了AI界

最近,图灵奖得主、人工智能标杆人物Yann LeCun,因为一则言论被群攻,迫不得已出来道歉。而这起事件的导火索,正是最近突然爆火的PULSE算法。

该算法由杜克大学推出,可以将模糊的照片秒变清晰,效果出奇的好。这项研究在CVPR 2020上发表,论文标题为《PULSE:通过对生成模型的潜在空间探索实现自监督照片上采样(PULSE:Self-Supervised Photo Upsampling via Latent Space Exploration of Generative Models)》。

正当大家兴致勃勃的把玩的时候,谁料PULSE竟莫名闯了祸。

一张照片引发AI社区大争议,Yann LeCun发推先解释后道歉

有人发现,将一张奥巴马的模糊照片,用PULSE洗出来以后,变成了一个白人!真•洗白?

这下美国网民不干了,纷纷将斗争的矛头指向了人工智能。

一向敢说的Yann LeCun,就这张照片发推表示:「ML结果的偏差,原因在于数据的偏差。为什么PULSE会出现奥巴马被洗白的情况?因为它是在FlickFaceHQ上进行预训练,这个数据集里基本都是白人照片。如果换成来自塞内加尔的数据集,训练完全相同的系统,那必然是每个人都看起来像非洲人。」

这下很多AI研究人员、从业者也不干了,纷纷将斗争的矛头指向了LeCun。

斯坦福AI Lab成员、Google AI科学家Timnit Gebru,对LeCun表示「失望」。

她直接回复Yann LeCun:「Yann,我建议你看看我和Emily的教程,或者这方面专家学者的东西。你不要只是将罪魁归结为数据集偏见,听听我们这些来自边缘化社区的人的说法」

Deborah Raji,纽约大学AI Now研究所的技术研究员,目前在MIT媒体实验室Joy Buolamwini创立的 「算法正义联盟」(Algorithmic Justice League)工作。

她指出,人工智能中的偏见受到更广泛的社会不公正和偏见的影响,仅仅使用「正确」(完美的、没有偏见)的数据并不能解决更大的不公正问题。将AI学术问题,上升到了社会伦理层面。

她甚至在Timnit Gebru的推下面提及Yann LeCun,直呼:「恶心!」

最终,Yann LeCun公开发推,向Timnit Gebru表示道歉:「我非常钦佩你在人工智能道德伦理和公平方面的工作。我非常关心如何确保偏见不会被人工智能放大,我很抱歉我在Twitter的讨论成为了这一议题的话题事件。」

在「最黑暗的时代」依然坚持深度学习研究,如今被拉下「神坛」

Yann LeCun,当今世界人工智能领域,甚至被有些人奉为「神一样的人物」。

他是卷积神经网络之父,图灵奖得主,与Geoffrey Hinton、Yoshua Bengio并称「深度学习三巨头」。在人工智能领域,这三巨头也被称为「人工智能教父」,他们共同发展了深度神经网络,奠定了深度学习基础。

一直以来,Yann LeCun都以直言不讳著称。他活跃在社交网络上,经常批评别人对AI技术的无端恐惧。由于他在AI领域的地位,他的评论因此极具份量。

他致力于开发人工智能的现代方法,使用卷积神经网络来分析计算机视觉技术的核心视觉数据。横跨学术界和产业界,是纽约大学数据科学中心创始主任,纽约大学研究中心Silver Professor称号获得者,只有为纽约大学做出突出贡献的人,才有资格得到Silver Professor这一荣誉称号。同时他也是Facebook首席人工智能科学家。这也是他敢说「研究人员应该(专心科研)少关心数据偏见,而应该交给工业界去操心」的底气所在。

他是AI技术的积极倡导者,更看重AI行业的积极、正向的前景。正是因为这份信念和坚持,Yann LeCun专注于技术研究,走过了深度学习最黑暗的时代,熬过寒冬,拿到图灵奖,终被「封神」。

但人,终究不是神,LeCun最终还是为自己的言论道歉了。不过,虽然LeCun道歉了,可并非所有人都觉得LeCun错了。

网友:这种问责很可能造成寒蝉效应,研究人员不再公布完整的来源

its_a_gibibyte表示有点儿懵:「我到现在都没整明白LeCun说错啥了?他不就解释了导致AI的偏见的原因和造成的结果吗?」

WittyKap0跟its_a_gibibyte解释:「这条推是没错啦。但是在随后的一条推中,他把这个问题扔给了业界,称这不是研究人员应该关注的问题,而是应该由业界做部署的工程师去解决的。结果Pytorch之父就不干了,源头没做好指望下游给你收拾烂摊子吗?顺便还讽刺了LeCun在FB工作。」

nonotan看不下去了:「我懂,研究人员至少应该提供某种程度的证据,证明他们的工作在实验中的情况,并给出更多的传统绩效指标。这将是一个很好的方向,没有任何问题。但归根结底,研究者的工作不是提供市场上可用的产品啊!难道那不是ML工程师的工作吗?作为一个ML工程师,你说『我只是从网上随便抓了一些模型,作为我的生产流水线的一部分使用,没有任何验证或监督。如果出了问题,就怪作者没有阻止我这个白痴』这是人话吗?而且这种问责很可能造成一种寒蝉效应,研究人员为了尽量不担责任,不愿意公布完整的来源/训练过的权重/等等。坦率地说,如果你按字面意思来理解他所写的东西我认为完全没有问题。我觉得只是因为人们发现LeCun没有重视或者支持他们的事业而感到不满。」

Deto提出了一个非常有意思的观点:「他是不是觉得人们只是扫了一眼这篇文章(而不是实际阅读——说实话,真没几个人能认真读完),然后可能会错误地认为种族主义意图被研究人员以某种方式,有意地编码到这些模型中?所以他想直接澄清这个细节。」

Shams在Twitter上发表评论,认为LeCun没有支持不公正事件的发生,不需要道歉。「你的立场很明确,而且是基于已经发表的科学研究。我不知道你为什么被卷进一件你明显反对的事件中。我希望对方能够坚持学术论调。」

Kaelen为LeCun鸣不平,认为他正在为自己没做过的事情道歉,而没有其他选择。

Yamen Ali表示「看了上周的讨论,我不认为道歉是必要的。我从你那里读到过一系列关于机器学习中偏见的解释。我只想看他们对你观点的科学反对意见,而不是把意识形态带入科学讨论中,这不会带给我们任何结果」。

Alastair认为是对方煽动了这场对话「你的内容十分准确,你的讨论语气也没有问题。你指出了最可能也是最重要的偏见。如果说有任何问题的话,那就是「她」煽动了这场对话。你没有做错什么,却受到了这样的网络暴力」。

Crypto同情LeCun的处境「你为什么要为自己的正确而道歉?你的道歉对人工智能界是一种伤害。当你不得不一遍又一遍地解释1 + 1 = 2时,这不是一个健康的讨论。不是每个人都聪明到能够理解它,但这没什么关系」。

本文分享自微信公众号 - 新智元(AI_era),作者:新智元

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-06-27

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 【LeCun台大演讲】AI最大缺陷是缺乏常识,无监督学习突破困境

    【新智元导读】近日,在台湾大学,卷积神经网络之父、FacebookAI 研究院院长 Yann LeCun 以「Deep Learning and the Pat...

    新智元
  • LeCun:赋予机器 “常识” ,重新设计神经网络将是AI 研究重点

    今天,在2019国际固态电路研讨会(ISSCC)的主旨演讲中,Facebook首席AI科学家Yann LeCun阐述了深度学习研究的进展将如何影响未来的硬件架构...

    新智元
  • LeCun:放弃深度学习吧,AI的未来是能量学习

    10 月 18 日,2019 中关村论坛平行论坛 ——AI WORLD 2019 世界人工智能峰会在北京启幕。新智元杨静、科大讯飞胡郁、微软王永东、华为王成录、...

    新智元
  • Posgresql高可用集群实践

    工作中一个第三方软件使用了Posgresql数据库,而在我们的场景里,我们需要保证Posgresql数据库的高可用,网上查找了一下,发现stolon这个高可用,...

    jeremyxu
  • C# 单元测试学习笔记

    首先是 要对属于框架技术中的代码添加单元测试。如操作数据库的组件、操作外部WebService的组件、邮件收发组件等。这些可复用的代码单元测试,可以大大提高底层...

    小老鼠
  • Spring Boot 集成 WebFlux 开发 Reactive Web 应用Spring Boot 集成 WebFlux 开发 Reactive Web 应用

    IBM的研究称,整个人类文明所获得的全部数据中,有90%是过去两年内产生的。在此背景下,包括NoSQL,Hadoop, Spark, Storm, Kylin在...

    一个会写诗的程序员
  • 【Git教程】如何清除git仓库的所有提交记录,成为一个新的干净仓库

      马三也算Github的忠实用户了,经常会把一些练手的项目传到Github上面进行备份。其中有一个名为ColaFramework的Unity框架项目,马三开发...

    马三小伙儿
  • 如何在 Ubuntu 18.04 上安装 Opera 网络浏览器

    Opera是世界上最流行的跨平台网络浏览器之一。它是一款为现代网络构建的快速,易用并且安全的网络浏览器。

    雪梦科技
  • 使用Github管理Hexo博客的源文件

    Create a New Repository,用https://github.com/repositories/new来创建新仓库,填好名称后Create,之...

    职场亮哥
  • 《实时控制软件》Git相关操作从注册到Push全教程

    此处,我们可以开始建立一个很方便的本地和远程的联系的仓库。 如果你是你是直接clone的老师的库。那么可以准备删除这个本地仓库(不是文件,是git的本地仓库,好...

    用户1687088

扫码关注云+社区

领取腾讯云代金券