智慧城市被“质问”的第一道题:人脸识别数据属于谁?用在了哪里?

作为身份认证的重要手段之一,人脸识别已经成为智慧城市建设中的重要组成部分。

策划&撰写:韩璐

市场研究机构MarketsandMarkets发布一份全球人脸识别市场报告,预计2019年人脸识别市场规模将为32亿美元,2024年将增长至79亿美元,复合年增长率为16.6%。

然而从去年到现在,人脸识别技术和市场正在面临一场“考验”。

隐私问题爆发,多个城市开始“拒绝”人脸识别

这一次考验的起源是谷歌与美国军方的一次合作。

去年3月份,谷歌的一份内部邮件显示他们正在为美国国防部AI项目“Maven”提供TensorFlow API,用于分析无人机拍摄的画面。这一合作引发了外界对于谷歌的质疑,以及对该技术应用之后的担忧。

这之后,随着亚马逊、微软等相继被曝出与政府之间也存在着“人脸识别”技术相关的项目合作,包括将人脸识别用于视频监控和警察佩戴的相机镜头等等,“人脸识别”技术一时间被推上了舆论的风口浪尖。

具体来看,他们普遍担心军事和工业结合体会被作为不正当杀人利器,以及这次合作背后可能引发的机器学习发展与道德问题。以美国公民自由联盟为例,在他们看来,将人脸识别技术应用到前端视频监控摄像机上,可能会打破隐私及实用性之间的平衡。

在舆论的压力下,此前宣称“不作恶”的谷歌终止了与五角大楼的合作,亚马逊和微软则继续争夺政府订单。而值得注意的是,发展至现在,这把火已经从科技公司这一类个体蔓延至了一个城市。

今年5月中旬,美国旧金山城市监管委员会投票通过“禁止使用人脸识别”的决定,成为美国第一个对这一技术说“不”的城市。时隔不到一个月,马萨诸塞州的萨默维尔市也对人脸识别技术说“不”。

根据制定的新规,地方政府机构在使用人脸识别技术的时候将受到限制,或是被完全禁止,或是在公共场所受限,且任何购买任意一种新兴监控技术的计划都必须得到市政官员的同意。与此同时,美国加州奥克兰市等城市也正在考虑出台与之类似的法律。

可以看到,在舆论的推动与引导下,越来越多的城市正在拒绝人脸识别这一项原本被极力看好的AI技术。而在这一技术被禁的背后,我们看到了另一个产业也大受影响。

人脸识别被禁,智慧城市建设大受影响

除了人脸识别的市场潜力,MarketsandMarkets的报告也指出,这一市场的主要驱动力包括:政府推行用户和数据安全举措的增加、越来越多移动设备的使用以及全球对健全欺诈检测和预防系统需求的日益增长。

可以说,人脸识别市场规模能够增长得如此之快,很大层面上得归功于政府的推动。截至目前,出入境管理、刑侦安防、公务办理等领域越来越多的用到了人脸识别技术,也取得了不错的成果。以刑侦为例,较为知名的事件有警方利用人脸识别技术数次在张学友演唱会捕获逃犯,最近的案例为警方通过“天眼”系统抓获已经外逃两年的北大弑母案嫌犯吴谢宇……而这样的案例还有很多。

其中,“天眼”系统是我国基于人脸识别等专业技术开发出来的重大成果。通过应用人工智能、视频图像处理等多种技术,“天眼”系统能够在第一时间对人脸信息进行捕捉和匹配,识别速度快且准确度高,已经有二十多个省市的公安系统与之实现了对接。

而从更大视角来看,“天眼”系统是智慧城市建设中的一块重要版图,如果没有“天眼”系统的存在,或是人脸识别技术被禁,以上场景只会存在于电影中,而智慧城市的建设也将不完整。

同时,“智慧城市”也是诸多大小科技公司竞相追逐并瓜分的一块蛋糕。

以国内为例,有着“CV四小龙”之称的商汤、旷视、云从和依图均有涉足“智慧城市”建设,且已经有项目成功落地。与此同时,BAT、京东、平安科技等也在“智慧城市”这一块有所部署,竞争也时有发生。而透视他们的“智慧城市”解决方案,图像识别或分析这一功能几乎已经是标配。一旦人脸识别技术被禁,尤其是政府层面的,他们受到的损失也将不可估量。

智慧城市建设势在必行,向人脸识别发出“灵魂拷问”

“智慧城市”这一概念已经存在许多年,但在近几年随着AI、大数据、物联网等技术的发展,基于“智慧城市”的基础,“新型智慧城市”的概念也应运而生。

2015年底,中央网信办、国家互联网信息办第一次提出“新型智慧城市”概念。几个月之后,中共中央办公厅、国务院办公厅印发了《国家“十三五”规划纲要》,明确提出要“建设一批新型示范性智慧城市”。

针对“新型智慧城市”这一概念,国家工业信息安全研究中心副主任李新社曾指出,未来智慧城市建设过程中,“围绕城市大数据的规划、采集、流通、分析、反馈、修订等全生命周期,用信息流优化来驱动各领域系统建设完善”将成为主要内容,“如何建设信息安全综合监控平台,如何强化信息安全风险评估体系”将成为下一步建设的战略重点。

不仅仅是国内,智慧城市建设已经成为了全球国家正在进行或将要进行的一个重要项目,这已经是势在必行。

“人脸识别是否要被禁止”不会是智慧城市建设过程中面临的唯一问题。但透过这一问题,一些关键的、通用的问题已经被暴露。

· 我的人脸数据究竟属于谁?

人脸识别是一种1:1或1:N的技术手段,在具体应用场景中,它可以根据已有人脸数据识别并判定某一特殊对象是否与数据库中的是同一人,也可以依据某一个人脸数据,从成千上万人中找出对应的人。这之中,数据库中保存的数据将成为关键一环,也是引发人们担忧并发出质疑的地方——这些数据究竟属于谁?谁能用我的数据?

近年来,因为研发需要以及人脸识别应用的逐渐普及,包括政府机构、银行、小区物业、人脸识别研发公司都需要用到数据库。

以银行为例,当人们办理某些业务时,人脸识别已经成为了一种常态,柜台工作人员会在过程中要求人们将头抬起,并将面部朝向摄像头以进行识别,而在银行APP中,要求卡主进行人脸识别认证也已经成为一种日常操作。既然要识别,那就意味着有对比数据,这些数据被谁拿走了?是银行?是公安?还是提供人脸识别技术的公司?

又比如人们上传至网络的各类照片,基于这些照片的人脸数据被谁拿走了?多数情况下会保存在各个平台的服务器中以作他用。譬如Facebook,当它在一张照片中识别某一特定人之后,它会向这一用户的账号发送通知,后者可以选择在图片上贴上标签、给发布图片的用户发短信,亦或是通知Facebook平台这张脸不是自己等等。这类服务是将人脸识别应用放在了明处,而人们更为担心那些不知不觉中发生的人脸识别应用。

· 我的人脸数据被用在了哪里?

毫不夸张地说,在如今这个到处都能够生产数据的地方,人们有的时候处于“裸奔”状态。这些数据在不知不觉间被采集,然后被运用在人们或知道、或不知道的场景中。

以微软为例,当美国关于“人脸识别”的舆论愈继续发酵的时候,这家公司悄然删除了它们于2016年发布的人脸识别数据库MS-Celeb-1M,这是全球最大的“公开”人脸识别数据库,其中涉及百万名人的千万张照片,可以供研究者开发人脸识别技术。

更为“可怕”的是,MS-Celeb-1M数据库中的每一个人物对应一个entity,绑定了知识库,后者提供了每个人的职业、性别等丰富信息,目的是为了帮助人脸识别系统不仅仅做到识别,更能做到认知。

又比如亚马逊的人脸识别软件Rekognition,它能够在几秒钟内将收集到的信息和数据库里成千上万个图像进行比较。这一技术已经被执法机关用于寻找失踪人口和识别恐怖袭击中的嫌疑人。但从美国公民自由联盟对亚马逊的致信,以及亚马逊员工和民众的反应来看,虽然这是智慧城市建设中的一部分,且这一技术带来的利好也被部分大众所认可,但他们似乎并不希望亚马逊将这一技术的API接口开放给政府,也因为担心自己时时处于监控状态,而不希望自己的数据被用于这些地方。

· 人脸识别技术可靠吗?

不仅仅是数据的问题,“智慧城市”建设还面临来自公众对于技术可靠性的质疑。

譬如在美国,人脸识别技术被指责有“种族歧视”——黑人女性的错误率高达21%-35%,而针对白人男性的错误率则低于1%。另外,亚马逊的Rekognition也曾将28名美国国会议员识别成罪犯,而就在本周,这一技术又错将26名州立法委员认定为罪犯。这种现象背后的技术可靠性着实令人担忧。

不仅仅是国外,国内这种嘀笑皆非的场景也时有发生。比如因为“闯红灯”而被公示在电子曝光屏的董明珠,事实是所谓的“董明珠”只是公交车上的一个印刷广告;又比如一名坐在公交车内靠窗位置的普通民众,莫名其妙的被人脸识别抓拍系统定义为闯红灯……

其中,诸如人脸识别闯红灯抓拍系统等产品已经是人脸识别技术的普遍落地应用之一,当行人闯红灯被拍之后,姓名、模糊处理的身份证信息等一般也会出现在电子屏上。但是这种“误抓”现象的出现体现了智慧城市建设过程中的不完善。同时,这种错误也会让“贡献”自身数据的民众在内心产生担忧和抵触。

人脸数据不知不觉间被采集和运用、数据库面临泄露风险、人脸识别技术可靠度存疑……不可否认,“智慧城市”建设是智能时代下的必然,而人脸识别技术作为身份认证重要手段之一,也是建设过程中的重要版图之一,但当数据没有安全保障、落地应用的识别准确度也没有保障的时候,民众多会产生“抵触”情绪,而“智慧城市”建设或将也会受阻。

本文分享自微信公众号 - 镁客网(im2maker)

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2019-08-16

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券