首页
学习
活动
专区
工具
TVP
发布

上千名学者和员工抗议!谷歌炒掉知名AI学者 引发科技界“寒蝉效应”担忧

近日,当今知名的AI学者之一、人工智能伦理研究员Timnit Gebru被谷歌突然开除,在科技学术圈里投下了一枚重磅“炸弹”。

Timnit Gebru说她被赶出了公司;现在,一些人担心这将对科技界的学术产生“寒蝉效应”(Chilling Effect)。

在一片不满与抗议声中,谷歌的职场与企业文化再一次陷入了争议漩涡。

人工智能伦理研究者Timnit Gebru是该领域备受尊敬的先驱,也是该行业为数不多的黑人女性领导者之一。本周早些时候,她说谷歌在阻止她关于人工智能系统偏见的研究发表后解雇了她。

在Timnit Gebru离开的几天前,她给同事们发了一份措辞严厉的内部备忘录,详细描述了谷歌的高层是如何试图压制她的研究的。她还批评了她的部门,称其员工一直缺乏多样性。

在她被广泛阅读的内部电子邮件中,Gebru说,公司正在“以最基本的方式保持沉默”,并声称,“当你开始在谷歌上倡导那些没有被充分代表的人,你的生活会变得更糟”。

Gebru离职后,谷歌的人工智能研究主管杰夫·迪恩(Jeff Dean)于周四上午向Gebru所在部门发送了一份通知,称经过内部审核,她的研究论文不符合公司的出版标准。Gebru称,公司还告诉她,她对同事的批评意见“与谷歌经理的期望不一致”。

Gebru声称,自己是在可疑的情况下被这家强大的科技公司赶出公司的。原推中表示,她在毫无征兆的情况下被谷歌AI部门的老大Jeff Dean间接地发邮件开除。她很快就发现已经无法登陆自己的公司账户,这表示她已经被开除了。

这封邮件发给了谷歌的数百名职员。在邮件中,Gebru 还呼吁大家停止为谷歌的IDE(Diversity,Equity,Inclusion)项目撰写文档。因为在Gebru看来,这个项目已经形同虚设。

Timnit Gebru表示,收到辞职通知时她刚好还在外度假,这让人不得不质疑公司是在玩“调虎离山”。

目前,Timnit Gebru和谷歌方面仍然各执一词。

这在科技和学术界引起了轰动,许多著名的研究人员、民权领袖和格布鲁在谷歌AI的同事在Twitter上公开为她辩护。

截至12月5日,一份支持她的请愿书已经收到了超过1500名谷歌员工、2000多名学者、非营利组织领导人和行业同行的签名。

她的离开是意义重大,因为它击中了更广泛的紧张局势:在硅谷的种族多样性以及学者是否有足够的自由发表的研究。即使是有争议的,在大公司工作时,在技术发展强大和公司利益方面,似乎受到控制,而大公司都有自己的考虑。

是什么导致Gebru的离开?

科技界仍在试图弄清楚究竟是什么导致Gebru离开谷歌。

一开始报道出来的缘由,是Gebru和她的的同事们计划即将出版的学术会议上提交的一份研究论文《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》。这篇论文由谷歌的内部团队和外部研究人员共同撰写,提出科技公司应该做更多事情,以确保AI写作和语音识别不会加剧歧视。同时论文内容谈到了谷歌BERT在AI伦理上的负面影响。

据《纽约时报》(New York Time)报道,Gebru和她的同事们的研究“准确地指出了一种新型语言技术的缺陷,包括谷歌建立的支撑公司搜索引擎的系统。”据报道,会议还讨论了用于自然语言处理程序的大规模计算系统对环境的影响。

作为谷歌程序的一部分,Gebru在论文发表之前将其提交给谷歌进行内部审查。但根据Jeff Dean周四发送的备忘录,谷歌认定该论文没有达到标准,因为它“忽视了太多相关研究”。

谷歌要求她撤回这篇论文,或者删除谷歌员工的署名。Jeff Dean还在他的备忘录中说,谷歌拒绝了Gebru的论文发表,因为她在最后期限的前一天提交了论文,而不是按要求提前两周。

据《泰晤士报》(the Times)报道,Gebru在撤回该论文之前,曾要求与谷歌进行进一步讨论。其中Gebru表示,如果谷歌不能解决她的担忧,她将从公司辞职。

随后谷歌告诉Gebru,公司不能满足她的条件,并公司将立即接受她的辞职——就这样完全没有沟通余地。Dean还表示,她煽动同事不要参与谷歌的多元化、公平和包容性项目,他对此感到失望。

对于像谷歌这样的公司来说,在员工的研究成果对外发表之前,对其进行审查是一个标准的过程。但为Gebru辩护的前同事和外部行业研究人员们质疑,在这种情况下,谷歌是否武断地更严格地执行了规则。

这场冲突以及Gebru的离职,反映出研究人工智能伦理的研究人员与雇佣他们的大型科技公司之间日益紧张的关系。

这也是谷歌部分员工存在深刻、持续的问题的另一个例子。周三,美国国家劳资关系委员会(NLRB)发布了一份投诉,称谷歌暗中监视其员工,并且在去年解雇参与劳工组织的雇员时可能违反了劳动法。

在谷歌的员工队伍经历了数年的动荡之后,过去几个月相对平静。这些动荡涉及谷歌与美国军方合作的有争议计划,以及对员工的性骚扰。

相反,该公司最大的公众压力来自反垄断法律审查,以及共和党议员未经证实的指控,即谷歌的产品显示出一种反保守的偏见。但Gebru的案件和最近美国国家劳资关系委员会 (NLRB)的投诉表明,该公司仍在进行内部斗争。

NLRB最近投诉,谷歌对员工进行非法监视、讯问或停职。而据报道,Timnit Gebru在多样性问题上的直言不讳,也曾遭到过警告。

“Timnit所做的一些困难但重要的评估公司的努力,恰恰是针对如何与多样性和包容性计划、如何采取纠偏措施等方面的,” 前谷歌工程师Laurence Berland表示。

为何Gebru的离开为何如此重要?

在AI伦理这一新兴领域,Gebru不仅是基础研究者,也是许多年轻学者的榜样。她也是“人工智能领域的黑人”(Black in AI)等关键组织的领导者,这些组织正在推动美国以白人男性为主的人工智能领域更加多元化。

虽然谷歌没有专门为其人工智能研究部门公布其人口统计数据,但每年都会公布其多样性数据。根据其《2020年多样性和包容性报告》(2020 Diversity and Inclusion report),其技术人员中只有24.7%是女性,只有2.4%是黑人。

Timnit Gebru是一个先驱。她是负责任的、有道德的人工智能的创始人之一。”“计算机科学家和工程师正是因为她才进入这个领域。”

2018年,Gebru和另一名研究人员乔伊·布洛姆温尼(Joy Buolamwini)发表了一项突破性的研究,表明面部识别软件在识别深色皮肤的人和女性时出现错误的几率远远高于浅色皮肤的人和男性。

她的工作有助于让科技行业更广泛地认识到人工智能的意外后果。人工智能的数据集可能会边缘化少数族裔和女性,加剧现有的社会不平等。

在谷歌之外,人工智能领域的学者担心,Gebru被解雇可能会吓到其他研究人员,使他们不敢发表可能会伤害到他们雇主的重要研究成果。

据悉,Timnit Gebru从麻省高中毕业后,就顺利考进了斯坦福大学,并且师从AI大牛、华裔女科学家——李飞飞。李飞飞2017年入职谷歌。在为建立大型机器学习和视觉理解知识库做出诸多贡献之后,李飞飞2018年宣布卸任斯坦福AI Lab,将专注人性化AI计划“HAI”。

Gebru还是公平、问责和透明会议(FAccT),非裔机器学习社区Black in AI的联合创始人。

在微软研究院工作期间,Gebru是数据集综述研究Datasheets for Datasets的主要作者。

在这些成果的收获后,Timnit Gebru却被谷歌“扫地出门”,其指控于是一下子就点燃了机器学习社区广泛的关注。

多名科学界大佬和谷歌员工发声

在Gebru被谷歌开除后,多名谷歌员工,包括多个科技行业大佬都在Twitter上表达了对Gebru的支持,以及对当下状况的担忧。由于Timnit Gebru是知名的AI伦理方面的研究员,不少观点指出:这恰恰证明了谷歌在AI伦理工作上的不足。

加州大学伯克利分校的计算机科学教授莫里茨·哈德特(Moritz Hardt)专门研究机器学习,并研究了人工智能中的公平性。他说:“研究人员还不清楚他们将如何在这个行业中继续从事这项工作。”“我想说,这是一个令人不寒而栗的时刻。”

“这太可怕了,@timnitGebru是AI伦理学领域最好的发声者之一。这真是个惨痛的讽刺,她的雇主谷歌对她的所作所为简直阴暗到家了。”伦敦国王学院的人工智能研究员Kate Devlin不无讽刺地表示。

前Reddit CEO Ellen Pao也称:“我认为这是一个笑话,因为考虑到她的专业知识、她的技能、她的影响力,任何人解雇@timnitGebru似乎都很荒谬……这是让我认为科技行业根本没有希望的事件之一。”

UCL名誉副教授Julien Cornebise表示:“即使我们不去讨论论文的内部审查制度,以如此方式解雇研究人员也让人不寒而栗。”

共同参与论文的@MMitchell则转发Jeff Dean关于辞退的声明,然后呼喊道:“‘没有达到出版的标准……它忽视了太多相关研究’……他这样评论的我们的论文,却有超过128个交叉学科的引用……所以(他们就)开除了其中一个作者。真是2020年的怪物评论家!”

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20201207A0A9VZ00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

相关快讯

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券