微软负责人呼吁限制面部识别技术的应用,敦促政府对此加以调节

编译:chux

出品:ATYUN订阅号

识别技术一直颇具争议。许多投资者和消费者权益组织团结起来反对亚马逊向当地执法部门提供面部检测人工智能;在委员会的听证会上,众议院的代表们要求FBI使用一个面部识别系统,其错误率接近15%;Facebook 在未经用户许可的情况下对照片进行面部识别时受到抨击。

关于部署面部识别技术的监管模糊性,微软等公司希望政府来加以权衡。微软总裁Brad Smith呼吁立法者调查面部检测算法并制定指导其使用的政策。

微软人工智能负责人Smith和Harry Shum前几个月发表了一篇论文,预测人工智能的进步将需要制定新的法律。但今天这篇文章标志着微软第一次明确主张对面部识别系统的监管,而不同于亚马逊的态度:亚马逊在六月表示私营部门有责任在使用人工智能技术方面采取负责任的行动。

Smith写道:“越来越多的技术公司需要限制政府机构使用面部识别和其他技术的方式。政府需要在调节面部识别技术方面发挥作用。”

他还指出,面部识别正在深深地融入我们的社会,这不一定是坏事。印度警方用它在四天内追踪了3000多名失踪儿童,地方当局采购了一个面部识别数据库,以查明涉嫌参与上个月致命资本公报射击的嫌疑人。但这并不意味着没有滥用的可能性。

“想象一下,政府会在未经您许可或不知情的情况下跟踪你过去一个月所走过的所有地方;想象一下,每个参加政治集会的人都有一个数据库,这个集会构成了言论自由的本质;想象一下,使用面部识别的购物中心商店可以相互分享您浏览的每个货架和你购买的产品的信息,而无需先询问你。长期以来,这一直是科幻小说和流行电影的内容,但现在它已经快要成为现实了。”

这也是一项不完善的技术。一些面部识别系统在非洲裔美国人面孔上的表现要比白种人面孔严重得多,而其他人在识别女性方面的时间要比男性更难。

Smith说:“即使解决了偏见,面部识别系统以对所有人都公平的方式运作,我们仍将面临潜在失败的挑战。面部识别与许多人工智能技术一样,即使以无偏见的方式运行,也会产生一定的误差。”

他没有要求具体的法律或道德原则,但提出了一系列问题供监管机构考虑,包括“面部识别的执法使用是否应受到人的监督和控制?”以及“我们应该确保使用面部识别作为政府国家安全技术实践的一部分,需要民事监督和问责制吗?“

至于法规可能如何通过,他认为,立法者应“利用正确的机制”收集专家意见,为决策提供信息。这包括任命两党专家委员会,特别是那些以学术界和公共和私营部门所做工作为基础的委员会。

“这样一个委员会的目的应该包括向国会提出建议,了解需要哪些类型的新法律法规,以及确保在整个行政部门内对这项技术进行适当的国会监督的更强有力的做法。”

Smith谨慎地指出,国会监管并不意味着公司可以放弃自己的责任。他呼吁科技公司研究降低面部识别技术偏见风险的方法,采用“原则性”和“透明”的方法开发人脸检测系统,在面部识别技术的部署中采取更缓慢,更有意识的行动并且在关于这项技术的公共政策辩论中以“全面”和“负责任”的方式参与。

就其本身而言,微软已经创建了一个名为Aether委员会的内部顾问小组来研究其对人工智能的使用,并发布了一套用于开发人工智能技术的道德原则。它还表示已经拒绝客户要求部署面部识别技术,“我们认为存在更大的人权风险。”

“所有工具都是双刃剑,”Smith写道,“工具越强大,它可能带来的好处或损害就越大……面部识别技术引发的问题涉及隐私和言论自由等基本人权保护的核心。”

微软,谷歌,Salesforce和其他科技公司因为向有争议的计划提供工具和专业知识而面临强烈批评。屈服于公众压力的微软于6月取消了与美国移民与海关执法局(ICE)签订的合同。

原文发布于微信公众号 - ATYUN订阅号(atyun_com)

原文发表时间:2018-07-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏人工智能

人工智能应该成为促进教育的良药

人工智能的飞速发展对于教育而言的确是现实版的“狼来了”,其应对良策绝不是陷于生存焦虑中而自怨自艾,而应是基于危机意识的不断反思,并逐步走向自我完善,让人工智能成...

20060
来自专栏量子位

儿童自闭症AI诊断平台Cognoa首获FDA监管认证

原作 Natasha Lomas Root 编译自 TechCrunch 量子位 报道 | 公众号 QbitAI 在美国,等一次自闭症的诊断,需要排队1到3年。...

43370
来自专栏AI科技评论

职播间 | 星图智控:一家消费级无人机公司的 AI 相机人才观

如今,相机在无人机产品中所占比重日益增加,无人机的自主飞行和执行任务的智能化需求突出,特别是在资源受限的小型消费级无人机领域,三维重构、目标检测识别和长时跟踪三...

12730
来自专栏PPV课数据科学社区

震撼 | 霍金:AI或带来人类文明终结

GMIC 2017 北京大会于4月27日在国家会议中心拉开帷幕。大会以“天·工·开·悟”为主题,上午领袖论坛首场Keynote由霍金带来。霍金先生通过视频的方式...

28270
来自专栏AI科技评论

动态丨NASA“钦点”的AI公司从火星回归了,现在要当无人机与自动驾驶的大脑

NASA 在 2010 年敲响了 Neurala 的大门。这家 2006 年成立于波士顿的人工智能公司,收到了来自美国航天局的邀请:他们希望创始人 Versac...

32770
来自专栏养码场

霍金最新演讲:AI或带来人类文明终结,我们该尽力确保其发展方向

GMIC 2017 北京大会于4月27日在国家会议中心拉开帷幕。大会以“天·工·开·悟”为主题,上午领袖论坛首场Keynote由霍金带来。霍金先生通过视频的方式...

6810
来自专栏SAP最佳业务实践

从SAP最佳业务实践看企业管理(19)-CRM-客户资产

影响客户为企业带来贡献且可进行资产化处理的各种因素均可视为客户资产的构成部分。由于受现有会计制度定期走帐的局限,我们将客户资产分成两大部分。在当期财务成本核算和...

36650
来自专栏华章科技

移动互联网和大数据时代下的IT企业变革之道-敏捷思维

如腾讯董事会主席马化腾指出互联网的出现犹如蒸汽机和电的发明,已经彻底改变了世界的模式;而移动互联网的出现更像人类新的DNA,从本质上蜕变催生出一个新的世界。人类...

13330
来自专栏灯塔大数据

荐读|霍金最新演讲:我们该尽力确保AI发展方向

GMIC 2017 北京大会于4月27日在国家会议中心拉开帷幕。大会以“天·工·开·悟”为主题,上午领袖论坛首场Keynote由霍金带来。 霍金先生通过视频的方...

29470
来自专栏罗超频道

YY谷歌地图完爆百度地图,为什么有些人总觉得硅谷月亮更圆?

一些中国用户对互联网产品的评价,总有一种“国外月亮更圆”的思维,硅谷的就是好的,是创新的,是有情怀的,是改变世界的,中国的就是抄袭的、山寨的、势利的。这几天看到...

14220

扫码关注云+社区

领取腾讯云代金券