旷视科技即将IPO,人脸识别进校园却引争议

开学了,如何让学生认真听讲?从前,老师和家长可是为此操碎了心。现在,一些学校开始引入人工智能,国内国外莫不如此。

近日,网络上出现一段课堂行为分析视频,画面上的学生们正身处教室,而教室里的人工智能系统可以监测他们睡觉、举手、趴桌子和阅读次数。这一视频引发网友热议,称有侵犯学生的隐私和尊严之嫌。开发这一系统正是AI独角兽公司旷视科技。

随后,又有媒体报道,位于江苏南京的中国药科大学在部分教室正“试水”人脸识别系统,将让逃课和“替同学答到”成为历史。而提供这一技术的也是旷视科技——一家即将赴港IPO的企业。

昨日晚间,旷视科技在官方微博发布声明,称近日网络上出现的一幅课堂行为分析图片,为技术场景化概念演示。旷视在教育领域的产品专注于保护孩子在校园的安全。并表示,旷视始终坚持技术向善,让人工智能造福所有人。

然而,在缺乏相关法律规范的情况下,仅仅依靠企业自我约束,能否不越出隐私保护的边界,仍是各界关心的问题。

旷视回应人脸识别进校园,称技术向善

最近,AI视觉独角兽旷视科技人脸识别进入校园的消息屡屡见诸媒体。

此前,据澎湃新闻报道,上海中医药大学附属闵行蔷薇小学正在构建智能课堂行为分析系统,运用如姿态评估、表情识别、语言识别、教师轨迹热力分析等技术,可以捕捉到孩子在校园生活中是否有微笑、向老师问好、主动捡垃圾、列队整齐等良好行为,或者快速奔跑、摔跤、打架、拥挤等危险动作。

此外,人工智能通过采集学生坐姿、举手、站立、打哈欠等课堂行为,就可以进行学习状态、课堂有效性、学习兴趣等相关性研究。

对于这样的做法,网友看法不一:有人认为应该将此系统开放给老师使用,也有人认为这样做或涉及隐私问题。

近日,又有媒体报道,中国药科大学在两间教室试点安装的人脸识别系统,除了能自动识别学生的出勤情况外,还能够实现对学生课堂听讲情况的全程监控。

学生是否认真听讲、课堂上是否抬头低头、抬头低头了几次、抬头低头了多长时间、低头是否在玩手机、是否闭眼打瞌睡……在人脸识别系统的“法眼”面前,都“无所遁形”。

该校图书与信息中心主任许建真表示:传统点名浪费时间、准确率不高,但是有人脸识别就没问题了。

但是,舆论却是一片哗然,有媒体表示,人脸识别“逃课”系统是否拥有通向未来的密码?人脸识别技术进课堂,隐私保护边界在哪里?人脸识别技术怎能用来“捆绑”学生?

9月2日晚,旷视科技在官方微博发布声明称,网传课堂分析图片为技术场景化概念演示,并称旷视的智慧学校解决方案可协助学校管理人员提升效率并保障学生安全,主要用于智能校门、教室门及宿舍的出入。

旷视在声明中承诺,在人工智能技术的各种场景中,旷视会坚持正当性、数据隐私保护等核心原则,接受社会的广泛建议和监督。但声明没有涉及中国药科大学的问题。

他山之石:瑞典“人脸识别进校园”被判违反GDPR

人脸识别技术进入校园,其实并不是中国特色的科技应用。

据南方都市报报道,日前,瑞典数据监管机构(The Swedish Data Inspection Authority,下称“DPA”)对当地一所高中开出第一张基于欧盟《通用数据保护条例》(GDPR)的罚单,金额为20万瑞典克朗(约合人民币14.8万元)。

事情就发生在几天前的8月21日。当时,瑞典DPA在官网公布了GDPR生效以来的首张罚单。与其他欧盟国家普遍拿科技巨头“开刀”不同,瑞典DPA的处罚对象是斯盖乐夫提的一所高中。

该校为了统计学生的出勤率,在校园内试行人脸识别系统。在实施试验的三周内,共涉及到22名学生。学校强调,他们事先获得了学生的同意。

但是,瑞典DPA律师Ranja Bunni指出:“事先获得学生同意”的说法不可接受,因为学生是在学校董事会管理之下的。也就是说,无法判断这里的“同意”是否为学生的独立意志。

经调查, 瑞典DPA认为,在日常环境中对学生进行摄像监控等行为侵犯了学生的隐私。因为学校统计学生出勤率完全可以通过其他方式完成,而这些方式都比人脸识别技术对学生权益的侵害要小得多。

因此,瑞典DPA以该校董事会处理个人信息不符合GDPR规定为由,对其处以20万瑞典克朗的罚款。据悉,罚款金额最高可以达到一千万克朗(约合人民币740万元)。

与此同时,英国数据保护监管机构(ICO)也正在对一起人脸识别相关事件进行调查。

据英国媒体披露,伦敦国王十字车站地区安装了带有人脸识别系统的闭路电视摄像头,可以监控这一带办公室、商场的人流情况。

“在日常生活中扫描人脸以识别他们的身份,这种对隐私的潜在威胁值得所有人重视,尤其是没有经过告知或理解的情况下”。进行调查的ICO专员Elizabeth Denham认为。

据报道,欧盟委员会的高级官员透露,他们正在计划一项关于人脸识别数据使用的立法,这将赋予所有欧洲居民明确的决定权,而这项立法也是欧洲AI监管改革的一部分。

还有官员指出,这项立法的目的在于限制公司和公共机构“不加区分地使用人脸识别技术”。欧洲居民将有权“知道人脸识别数据何时被使用”,即使有例外情况,也将是在“严格限制”之下,以确保适当使用。

而在此之前,美国已有多个城市立法禁用人脸识别。

2019年4月5日,旧金山监事会(The San Francisco Board of Supervisors)通过一项法案,禁止政府部门(受联邦政府管辖的机场、港口等出入境场所不在此例)使用面部识别技术,并规定城市机构在购买其他类型的监控技术之前获得城市议会批准,例如自动车牌阅读器和支持摄像头的无人机。

批评者表示,由于面部监视能够可以在不知情或不同意的情况下,识别远距离或在线人员的身份和行为,因此,这项技术“为政府提供了前所未有的力量来跟踪人们的日常生活,但这与美国的民主传统并不兼容。

继旧金山之后,同处于加州的奥克兰和马萨诸塞州的萨默维尔也相继出台了禁止政府使用面部识别技术。

说说AI视觉独角兽旷视科技

再回到开头提到的那家“独角兽”。火爆的人脸识别技术走入教育行业,引发了不小的争议。而国内提供这一技术的旷视科技到底是什么来头呢?

总部位于北京的人工智能创业公司旷视科技以人脸识别品牌 Face++而闻名。官网资料显示,旷视科技成立于2011年,由印奇、唐文斌和杨沐三人创立,三人均毕业于由图灵奖得主兼中国计算机科学家和理论家姚期智院士创立的清华大学“姚班”。

从左到右依次为:杨沐、印奇、唐文斌

旷视科技主营业务为向用户提供人工智能赋能的解决方案,覆盖个人物联网、城市物联网和供应链物联网领域,拥有人脸识别、物流机器人、智慧物流平台河图等人工智能产品。

旷视科技的名字对于C端用户来说可能有些陌生,事实上,我们在日常生活中可能或多或少已接触过该公司的技术,蚂蚁金服、小米、OPPO和 vivo 等公司的人脸识别和智能拍照技术使用的正是旷视科技的方案。

8月25日,旷视科技在香港联合证券交易所披露招股说明书,公司拟采用同股不同权架构上市,联席保荐人为高盛、摩根大通、花旗。这家致力于人脸识别和深度学习的公司有望成为“AI第一股”。

分析师同时表示,若旷视科技挂牌成功,其将成为继小米、美团后,第三个以同股不同权方式登陆港股的企业。

据悉,旷视科技的投资方包括阿里巴巴、蚂蚁金服和中国银行。该公司于今年5月宣布了7.5亿美元的D轮融资,有报道称,在当时的融资中该公司估值超过40亿美元。其客户则主要包括阿里巴巴、蚂蚁金服、联想、中国移动,以及中国相关政府部门。竞争对手则主要是商汤科技和依图科技。

旷视科技的招股书没有披露IPO定价和具体时间,但有报道称,该公司计划融资5亿到10亿美元,并于今年第四季度上市。

旷视科技的招股书显示,公司营收快速增长,但亏损也在扩大。该公司将亏损归因于优先股公允价值的调整和研发投资。旷视科技营收从 2016 年的 6780 万元人民币增长 2018 年的 14.2 亿元人民币,年复合增长率达到约 359%。2019 年前 6 个月,旷视科技的收入为 9.489 亿元人民币。与此同时,从 2016 年到 2018 年,该公司的亏损从 3.428 亿元人民币增长至 33.5 亿元人民币。今年上半年的亏损为 52 亿元人民币。

近年来,随着AI技术获取门槛的降低和智慧课堂概念的兴起,包括好未来、新东方等教育巨头和小盒科技等在内的诸多在线教育创业企业将AI技术应用在对学生的表情、肢体动作的识别中,来了解学生的学习专注情况。

从各家表达的设计之初衷来看,该技术的应用是为了帮助老师了解课堂授课反馈情况、帮助学生提高学习效率。但同时,学生个人信息数据被大量获取和存储,也引发广大用户对隐私安全的担忧。

一直以来,关于AI技术和AI伦理的争辩从未停止,这也是不断有“技术向善”诉求表达出来的社会现实背景。

作为AI技术应用领域的先行者之一,旷视在此前也发布了《人工智能应用准则》,《准则》从正当性、人的监督、技术可靠性和安全性、公平和多样性、问责和及时修正、数据安全与隐私保护六个维度,对人工智能正确有序发展作出明确规范,同时给出相应干预措施或指导意见,确保人工智能能够在可控范围内持续发展。这可以说是旷视的自律宣言和对行业的承诺。

数据显示,人工智能有望在2035年前将企业效率提高40%,从而释放高达14万亿美元的经济价值。随着人工智能日益进入决策领域,应如何确保算法的可靠性和透明度?

腾讯董事会主席兼首席执行官马化腾

8月29日,2019世界人工智能大会在上海开幕。腾讯董事会主席兼首席执行官马化腾在演讲时表示,AI治理的紧迫性越来越高,应以“科技向善”引领AI全方位治理,确保AI“可知”“可控”“可用”“可靠”。腾讯今年5月提出“科技向善”作为新的愿景和使命,所着眼的也正是探索人与AI的正确相处之道。

不过,在今年的夏季达沃斯论坛上,IBM大中华区总裁陈黎明对于这一问题却提出了自己的观点。他表示,科技向善是一个愿景,是努力的方向,但是科技向善不是现实,这一点必须要清醒地认识。

IBM大中华区总裁陈黎明 资料图

“不可否认的是,算法是有偏见的,有一些属于主观故意的偏见,无论是利用数据、技术进入社交媒体干涉大选结果,还是根据个人信息,在定价策略上进行价格歧视等不一而足。”陈黎明说道。

如何实现科技向善的愿景?陈黎明认为,政府应当在制定法律法规方面有所作为,比如欧盟制定的《通用数据保护条例》(GDPR),但还有很多国家没有制定法规,国家间的差异很大。另外,企业也应当遵守社会伦理和社会责任,作为个人也要提高鉴别能力。

— The End —

稿件一经刊发,将根据文章质量,

提供千字200元-500元的稿酬。

其他合作、建议、新闻线索,

欢迎于微信公众号后台联系我们。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190903A0LHOL00?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。

扫码关注云+社区

领取腾讯云代金券