政府AI合同遭抗议,微软终低头:号召全面限制人脸识别软件

机器之心报道

机器之心编辑部

基于对墨西哥边境地区非法入境者及其子女的关切,近来越来越多的人开始抗议科技公司与美国政府部门签订 AI 人脸识别服务合同的行为。微软是其中最引人注目的巨头之一。本周五,微软公司终于表示,考虑到技术滥用和偏见,它将更谨慎地出售其技术。

在一篇关于人脸识别的潜在用途和滥用的博客文章中,微软总裁 Bradford L. Smith 将该技术与受到全面监管的药品和汽车等产品进行了比较,并敦促美国国会展开研究并监督人脸识别技术的使用。

此前,众多学者与开发者们签署了一份公开信,其中要求科技公司停止向政府和执法机构提供人脸识别技术,停止当前的数据分析和 AI 服务合同,并考虑制定道德准则,禁止威胁隐私、公民和人权的技术的武器化与军事化,建立透明和有问责机制的制度,以确保上述准则的实行。

  • 公开信链接:https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/
  • 微软总裁 Brad Smith 的博客:https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/

近期微软因一份涉及人脸识别软件的政府合同而受到广泛抨击,微软公司表示,它将更加谨慎地考虑这方面的合同,并敦促立法者规范此类人工智能技术的使用,以防止滥用。

作为人脸识别软件主要制造商之一,微软表示它将采取措施降低这些系统产生偏差的可能性;制定新的公共原则来管理技术;并会更谨慎地出售其在该领域的软件和专业知识。微软指出,虽然技术行业需要对其产品负责,但是政府也要采取行动。

微软总裁兼首席法务官 Brad Smith 周五在其博客中写道:「政府管理技术使用的唯一有效方法是它主动采取行动。而且如果人们担心一项技术在全社会被广泛使用,那么规范该项技术广泛应用的唯一措施应由政府出面。实际上,我们认为这就是现在所需要的——一项首先由民主、共和两党代表和专家委员会通报的政府倡议,旨在规范人脸识别技术的正确使用。」

微软、谷歌、亚马逊等公司因向美国政府和当地警方出售 AI 软件,尤其是人脸识别软件而受到民间自由团体及这些公司内部雇员的抨击。对于科技公司来说,这种要求对自己产品进行更严厉监管的行为并不常见,但是 Smith 与微软人工智能及微软研究事业部负责人沈向洋今年早些时候就写了一篇文章,称 AI 的发展需要新的法律来规范。

Smith 写道,「虽然我们明白现在很多人要求科技公司来做这些,我们也明确意识到自己需要履责,但我们认为,这不足以代替公众及其代表的决策。」

人脸识别系统通常具备严重的缺陷,尤其是难以识别和区分肤色较深的人。微软研究者 Timnit Gebru 和 MIT 媒体实验室 Joy Buolamwini 二月发表的一篇论文表明人脸识别系统对肤色较深的女性的分类误差高达 35%。微软的研究机构致力于修正研究者在其人脸识别软件中发现的问题。

随着技术的迅速发展,微软提倡适应云计算和人工智能等新兴领域的新法律。微软就隐私问题与美国政府展开抗争,称美国政府在云计算方面使用了老旧的通信法,微软支持折中的法案,用于直接解决云时代的数据隐私问题和搜索问题。

微软应对民众抗议的方式与亚马逊略有不同。在六月回应抗议声的一篇博客中,亚马逊的 AI 负责人 Matt Wood 写道,「新技术能力一直都存在风险,以后也会如此。每个选择使用技术的组织必须采取负责任的行动,否则就得面临法律惩罚和公众谴责的风险。AWS 会认真对待自己的责任。但我们认为,不能因为某些技术未来可能被人滥用就禁止这些技术的发展,这样是不对的。」

Brad Smith,微软总裁兼首席法务官。

Smith 写道,政府规范应该考虑的问题是警察使用人脸识别软件是否需要人类监督和控制,零售商是否必须张贴显眼的标识(如果他们在公共区域使用了此类软件)。其它需要考虑的范围包括是否要求企业在收集个人图像之前先征求用户同意,以及认为自己被人脸识别系统错误识别的人享有哪些法律权利。

纽约大学法学教授 Barry Friedman 称,执法机关使用人脸识别技术却欠缺规范,这引起了人们对种族差异和隐私问题的担忧。他同时也负责 The Policing Project,该计划致力于为执法设定规范和准则。

最高法院规定警察在没有许可证或正当理由的情况下不得长期获取手机数据,类似的限制也应该应用到警察对人脸识别技术的使用上,Barry Friedman 称。

「该技术正在飞快地追赶我们,」Friedman 说道,「如果我们不走到前头,一切将覆水难收。」

微软在上个月曾因民众抗议 AI 技术被用于在墨西哥边境分离非法入境者及其子女后,短暂地在网站上删除了其与美国移民和海关执法局签订合同的文章。但随后,相关博客又被恢复。

虽然微软随后宣称公司与移民局签订的合同主要涉及在云端处理旧电子邮件和员工协作系统,但其博文明确提到了使用人脸识别工具的可能性。随后,数百名微软员工签署了一份请愿书,要求公司停止向政府出售相关服务。针对非法移民的 AI 项目甚至影响到了微软刚刚收购的 GitHub,6 月中旬起,数百名开源社区贡献者在网上签署了一份公开信,同样要求微软解除与政府部门的 AI 合同,并号召抵制 GitHub(参阅:弃坑 GitHub:微软「反非法移民」政府 AI 项目引发开源社区抵制)。

人脸识别是目前 AI 领域里应用最广泛的技术之一,但在推广的过程中也引起了越来越多的争议。今年 4 月,个人隐私保护组织向美国联邦贸易委员会提起诉讼,称 Facebook 在未获得用户适当许可的情况下开启了新的人脸识别服务。Facebook 否认了这些团体的指控。

而今年 5 月,亚马逊因为将 Rekognition AI 服务出售给当地警方而引起争议,美国公民自由联盟正要求该公司停止允许政府使用这项技术。

值得一提的是,在欧盟,有关人工智能侵犯隐私的一些问题已经得到了解决。一项严格的新数据保护法已禁止公司在未获得用户特定同意的情况下收集人脸识别所需的生物特征数据。

参考内容:https://www.bloomberg.com/news/articles/2018-07-13/microsoft-calls-for-ai-face-recognition-software-regulation

https://www.nytimes.com/2018/07/13/technology/microsoft-facial-recognition.html

原文发布于微信公众号 - 机器之心(almosthuman2014)

原文发表时间:2018-07-14

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏华章科技

畅谈大数据:不用推销也能成为商业巨头

我们每天都会收到很多所谓的垃圾邮件,这些邮件的题目或直白、或内涵,但不论如何,我们选择去点击的只是少数。同样的,每天接到的直销电话大部分或被手机软件过滤、或被我...

633
来自专栏科技向令说

响铃:揭底滴滴们跨界营销“真相”,再教你玩一出好戏

情人节一直是商家们营销的好日子,面对着谈感情不怕伤钱的年轻人,品牌传播也早已不限于玫瑰花巧克力此类。今年显得有些意外,除了年轻人,老年人也成为了“枪口下的猎物”...

742
来自专栏镁客网

股价创新低,削减iPhoneXR产量,苹果的凛冬将至?

虽然双十一刚过,但苹果的风头显然大不如从前,除了iPhone XR的销量看衰,其供应商和分析师也下调了各自的业绩,导致12日苹果的股价创7月底以来的新低,同时苹...

721
来自专栏镁客网

华为神秘“D计划”曝光,轮值总裁亲自操刀,目标直指谷歌、英伟达

7月13日,The Information曝光了华为内部的一个秘密项目,代号“达芬奇计划(Project Da Vinci)”,简称“D计划”,由现华为轮值总裁...

1382
来自专栏企鹅号快讯

王健林要做人工智能,万达网科现任总裁曲德君将回万达商管

王健林旗下的万达网络科技集团未来或许要进军人工智能领域了。 12月29日,澎湃新闻(www.thepaper.cn)了解到,现任万达网络科技集团总裁的曲德君或...

2185
来自专栏罗超频道

好莱坞时代的结束?硅谷媒体时代的开始?

近日,爱奇艺上线自制综艺《旅行的声音》,这不仅是亚洲首档采用4K杜比视界HDR技术拍摄成像+杜比全景声技术的网络综艺节目,也是国内视频平台将新技术与内容进行有机...

3365
来自专栏新智元

【老炮儿白硕创业了】CCIR阡寻科技聊知识图谱和NLP如何落地金融

【新智元导读】阡寻科技(Chancein)成立一年多,由东吴证券与中国证券市场及自然语言领域泰斗级人物白硕先生所率领的团队共同发起设立。全国信息检索学术会议上,...

3474
来自专栏IT派

社交帝国的至暗时刻,Facebook“非死不可”?

北京时间2018年7月26日,Facebook发布2018财年第二季度未经审计财报。

841
来自专栏VRPinea

加速度,网易以《Raw Data》开辟VR线下新市场

近日,“网红”网易游戏的消息可以说时不时现身于“游戏玩家的热搜榜”。例如《逆水寒》、《楚留香》从上线后的热度高涨,到玩家逃荒般流失带来的“自由落体式降温”?甚至...

1184
来自专栏PPV课数据科学社区

【学习】数据科学与大数据技术必备技能(高教版)

编者按 今天,相信小编无论说什么也不会有人信了,那么我就斗胆直言了:”未来10年,50%的人将失业"。当然这也不是我说的,是李开复老师说的(开复老师对不住了)。...

2947

扫码关注云+社区

领取腾讯云代金券