AI技术监控课堂招致隐私质疑！旷视科技回应人脸识别安全问题

AI+教育，成为近两年教育热门研究话题。

AI+教育除了广泛应用在课程教学上之外，还应用到了学生的课堂行为研究上。近日，网络上出现一张图片，画面里的女生正身处教室，她的旁边是她趴桌子、玩手机、睡觉、听讲、阅读和举手次数的人工智能识别。

这一行为，引起了大家对人工智能技术给教育、学生隐私带来的影响的质疑。

桃李在线（ID:taolionline）发现，在这张广为流传的图片上，印有“MEGVII旷视”的LOGO。

据了解，产品系旷视科技研发的视觉AI在教育场景中的应用，而研发成果被介绍为“无死角巡航拍摄教室并自动变焦拍摄人脸；再配合旷视科技课堂智能考勤主机盒子MegBox-B2D的智能化分析能力，以人脸识别验证的方式对上课的学生身份进行核实，实现无感知无配合的智能考勤。”“旷视科技将自主研发的人脸识别、行为识别、表情识别等技术，集成在考勤及行为分析摄像机MegEye-C3V-920和行为分析服务器中，通过对课堂视频数据进行实时的结构化分析，反馈学生行为、表情、专注度、前排上座率等多维度课堂数据”

公开信息了解到，旷视科技创立于2011年10月8日，三位创始人均是清华姚期智实验班的毕业生。

自成立以来，旷视科技总共进行了九轮融资，总融资金额约为 13.51 亿美元，其中最后一轮 D 轮融资金额最大为 7.2 亿美元。

收入方面，旷视科技2016 年收入 6700 万元人民币，2017 年增至 3.132 亿元，2018 年增至 14.269 亿元。2016 年至 2018 年复合增长率为 358.8%。2019 年上半年，人民币收入为 9.49 亿元。

8 月 25 日下午，旷视科技有限公司在中国香港联合证券交易所披露招股说明书，上市交易的承销商为高盛、摩根大通、花旗。

网友表示，“我本人关于校园的美好记忆，来自于上课时的纸条、干脆面、偷瞄喜欢的女生，我不懂天才少年眼中的精英教育是什么样子的，不知道估值800亿的旷视有多了不起。”

针对网上的质疑，9月2日，旷视科技在微博上声明：

近日网络上出现的一幅课堂行为分析图片，为技术场景化概念演示。旷视在教育领域的产品专注于保护孩子在校园的安全。

旷视的智慧学校解决方案可以协助学校管理人员提升效率并保障学生安全，主要用于智能校门、教室门及宿舍的出入，方便学生安全出入校园。

旷视始终坚持技术向善，让人工智能造福所有人。在人工智能技术的各种场景中，旷视会坚持正当性、数据隐私保护等核心原则，接受社会的广泛建议和监督。

21世纪教育研究院副院长熊丙奇撰文指出，技术是中性的，是发挥好的作用还是反作用，关键在于目的和手段。人工智能技术当然可以用于课堂教学，比如教育机器人辅助教学，以及建智慧教室，让学生更方便地获得教育资源，参与课堂讨论。

但用AI技术监控学生上课的动作、姿势、表情，却需要慎之又慎，即便学校声称这是用于对学生上课行为的分析，例如从一次举手、一个哈欠中分析课堂效果。但事实上，一个孩子在360度无死角监控镜头下的表现和在没有监控下的表现，是完全不同的。镜头收集的信息本就失真，分析结果的可靠性也就大打折扣。

在系统刚使用时，可能仅仅用于行为研究分析。但学校如果进一步扩大其用途，如用于对学生的学习态度进行评价，对教师课堂表现进行考核，就可能把更多的问题、弊端暴露出来，不但侵犯学生的隐私，还会扭曲师生关系和正常的课堂教学。

声明：本公众号内容若无具体说明，均属桃李在线原创稿件，转载需先获得授权。如涉及其他版权问题，请及时联系。

本月专题｜STEAM教育：在线音乐陪练、美术

爆料、提供线索请在后台留言

昨天

少儿编程行业还处于监管的真空地带

警惕青少儿编程培训热！专家：多数家长对少儿编程存在幻觉

298月

谁出卖了我的数据？起底教育机构骚扰电话源头

268月

国内首部儿童个人信息保护规定出台 收集14岁以下儿童信息应征得父母同意

228月

校外培训要警惕合同陷阱

报班不怕“霸王条款”了！宁波、广东、武汉、江苏推出校外培训合同范本

198月

新东方在线加速扩张K12教育业务，财报数据转盈为亏

168月

全国信息学奥赛NOIP暂停，曾因“零收费”问题缺席全国性竞赛名单

058月

未按要求公示信息，阿卡索被点名，回应：近期将公开外教资质查询平台

018月

在线教育监管新规

千亿规模在线教育行业迎大考，中小培训机构或面临洗牌

247月

超前超标课程违反规定，机构将面临严格监管

几亿广告营销大打价格战，K12教育机构“贩卖”家长焦虑

167月

网信办四部门委托专项治理

掌阅、扇贝单词被限期整改，40款App存在违规收集使用个人信息问题

107月

我转发了一篇文章到朋友圈

早教托育行业受市场追捧，但机构质量不一亟待规范

057月

“你是什么垃圾？”

垃圾分类小游戏来了！西瓜创客打造首款垃圾主题少儿编程

047月

个人信息保护

学而思等18家企业被工信部点名：违规收集用户个人信息

037月

在线教育企业2019年IPO热情不退，但不确定因素叠加导致市场并不买账

276月

北京加盟店接连倒闭，总部称不负责

预警！鱼乐贝贝门店连续上演卷款跑路事件，早教加盟模式暗藏风险

266月

无资质“洋垃圾”大量进入英语教育机构，外教中介市场“水深火热”

116月

港股或迎来第2家纯正K12辅导机构，思考乐IPO背后存在隐忧

056月

为乱象踩刹车

学习类App难治理：涉黄、诱导付费、外链游戏广告、违规收集信息

285月

数据安全治理

网信办征求数据安全管理办法意见 规范14周岁以下儿童个人信息收集

205月

流量焦虑

卖课越多亏损越大，在线教育平台热衷电销但出路难解

175月

传智播客拟在国内上市：IT培训业务仅次于达内，去年营收7.91亿元

155月

学习类App治理

网信办整治教育类APP涉黄低俗乱象，20余款涉黄APP1.21万款违规程序被清理下架

095月

少儿编程热隐藏陷阱，达内旗下童程童美涉嫌欺骗家长

284月

民办幼儿园转型困难多，小区配套幼儿园移交不能采取“强制”方式

194月

尚德机构被监管部门约谈，因再三拖延退款、诱导学员“教育分期”办贷款