当AI用来“窥伺”学生喜怒哀乐,伦理边界在哪儿?

整理 | Just

出品 | 人工智能头条(公众号ID:AI_Thinker)

人工智能会成为推动人类未来发展的水和电,当它在迅速改变人类生活环境的同时,也在模糊着物理世界和个人的界限,延伸出复杂的道德伦理问题。

5 月 18 日,一则杭州某中学引入“智慧课堂行为管理系统”的新闻在微博上引发大量转发,就技术的不正当应用引起了网友讨伐。背后具体的技术应用正是人脸识别,一方面是通过实现“刷脸”完成实时考勤...这一场景的技术应用已经比较完备了,但在最多三四十的教室里,这样做是不是大材小用了?

但让网友们群起攻击的一点是,人工智能被用来统计分析学生课堂行为,并对异常行为实时反馈。据校方负责人介绍,系统每隔 30 秒会进行一次扫描,针对学生们阅读、举手、书写、起立、听讲、趴桌子等 6 种行为,再结合面部表情是高兴、伤心,还是愤怒、反感,分析出学生们在课堂上的状态。

为了让技术用来促进教学管理,他们欲借助科技帮助老师分析学生的行为数据来得到课堂质量的反馈,以及在后续的教学上做出调整。

校方所要达成的目标也许是好的,但问题是,在教室走廊、学校公开场所以安全之名安装摄像头的监控行为还算有其合理之处的话,那在较为封闭的教室里监控个人行为,是否存在技术被滥用的嫌疑?当然校方声称他们考虑到了个人隐私问题,说系统只是对整个班级的行为管理进行大数据分析,但这至少是否要经过学生的同意?(当然,最后一个问句在中国学校管理中基本就是奢望。)

其次,收集面部信息作为教学质量反馈看上去鸡肋程度大于实用性。校方称,现在获取的数据仅为片段性,也没有形成大数据来支撑对学生行为的判断。所以可以得出通过上述 6 种行为分析本来就没有多大意义,因为学生个体的动作表情很难用正负面二分法做出判定,比如有很多人的喜怒哀乐很少通过面部表情表现,这种大数据判断的误差以及参考价值有多大可想而知。

校方也回应称,现在也不会将具体的某一个行为作为决定性因素,而人们担心的恰恰就是你用 AI 技术给出整齐划一的“标准答案”。

那在促进教学质量又不伤害学生个人隐私的情况下,能不能更好的将人工智能技术应用其中?

当然有,有网友说, 如果换成系统能语音识别老师所讲的内容,然后自动搜索相关图片、知识点展现在课堂上作为教师的助教。如果不考虑语音技术目前的挑战,类似的技术应用思路自然可行。教育领域作为人工智能技术大有大为的落地场景,近年来,无论是像新东方或者沪江这样传统的线上教育公司或者 AI 教育的初创公司都在不断做出探索,但所有的前提是 AI 技术发挥的作用必须是正向的。

人工智能的伦理道德问题不仅仅体现在教育领域,还有人工智能歧视问题,这体现在数据选择和算法上。有科学家研究,通过使用机器学习算法帮助银行提供接受还是拒绝房贷的建议,但在审查神经网络决策制定流程的结果时,发现黑人申请的批准率大大低于白人申请的批准率。这被视为人工智能“黑箱”处理导致的不透明性。

再比如人工智能技术用于军事用途。韩国科学技术高级研究院 KAIST 由于涉及开发“杀人机器人”项目遭到 Hinton、周志华等 50 余名全球 AI 专家的联合抵制,最后项目叫停;Google 利用AI 技术帮助美国国防部分析无人机拍摄的视频遭到 3000 名员工联名反对,近期事件发酵后有多位员工愤然离职;Uber 等采用自动驾驶技术的汽车公司由于车祸事件,受到媒体和公众的重点盯防......

还有 AI 技术应用在道德伦理这一步的审查是模糊的。

上周,Google 在其语音助手中加入了 Duplex 人工智能语音技术,它能模仿真人的语气进行对话,帮助用户完成电话预订美发沙龙和餐馆等操作。随后谷歌母公司 Alphabet 董事长 John Hennessy 声称它已经部分通过了图灵测试,但由于它与人类沟通时并未告知自己机器人的身份,因此人们担忧它是否会被用来欺诈他人。

我们要防止人工智能“触电”人类道德伦理,但在相应伦理道德框架和机制建立上还处于黎明前的暗夜里。

国外有诸多大公司相继已建立了相关组织来讨论 AI 的道德伦理问题。2016 年 9 月,Facebook、Google 以及亚马逊除了内部制定防止技术滥用的机制之外,它们也成立了联合组织,目标是寻找应对 AI 带来的安全与隐私威胁的解决方案,OpenAI 也是类似的组织。

我国的《新一代人工智能发展规划》也专门提出人工智能伦理与法律的三步走规划,但将伦理与法律要求嵌入到 AI 系统仍是世界性难题。即便如此,逐步制定行业标准和道德标准,了解 AI 存在的风险刻不容缓。否则,将 AI 用来“监控”学生个人喜怒哀乐这样的技术应用会不断涌现。

参考来源:新京报

原文发布于微信公众号 - 人工智能头条(AI_Thinker)

原文发表时间:2018-05-20

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏专知

中国计算机大会2017开幕第一天,丘成桐,梅宏,沈向洋,李飞飞,汤道生,马维英都讲了什么?

来源:雷锋网 ? 雷锋网(公众号:雷锋网)消息:10月26上午8:30分,由中国计算机学会(CCF)主办,福州市人民政府、福州大学承办,福建师范大学、福建工程学...

2885
来自专栏人工智能头条

英特尔AI链条已全部打通 以技术驱动人工智能民主化

1754
来自专栏华章科技

腾讯的实践表明:最重要的不是大数据,而是……

当下中国,大数据是个热词。大数据是怎样发挥价值的?关注到腾讯近日发布的大数据报告《95后迷之隐私观大揭秘》,记者走进位于深圳的腾讯总部,走进那些让数据“活”起来...

1183
来自专栏数据科学与人工智能

【数据科学】二十一世纪最性感的职业:数据科学家

性感事物方面的权威《哈佛商业评论》宣布,“数据科学家” 是二十一世纪最性感的职业。所谓性感,既代表着难以名状的诱惑,又说明了大家都不知道它干的是什么。 不管老板...

27110
来自专栏人工智能

意识是人工智能生命的最后一块拼图

十个程序员中,九个人所编写的第一个代码是“hello world”。仿佛新生儿降世的第一声啼哭,“hello world”就像一台冰冷的机器第一次睁开了眼,对世...

2316
来自专栏AI科技大本营的专栏

AI量身定制:如何打造符合“中国特色教育”的内容推荐体系?

“新东方、学而思的成功是公立教育失败的产物”,这句话一度成了人们用来指责中国应试教育失败一面的万能语句,不过作为前长春新东方学校的校长,一起教育科技 CEO...

882
来自专栏机器之心

如何生物转CS,并在斯坦福大学三年拿到PhD:独家专访李纪为博士

机器之心原创 参与:李泽南 在人工智能逐渐成为热点的今天,各家科技公司与机构对于相关人才的需求也在不断增大。然而,机器学习目前仍是一个门槛很高的领域,很多计算机...

5675
来自专栏灯塔大数据

腾讯的实践表明:最重要的不是大数据,而是……

今天很容易通过大数据对市场一目了然,但一目了然之后怎么做?漠视它、改正它、还是适应它?当整座城市管理,都可以用大数据运算出一个“最佳方案”时,城市又会怎样? ...

4024
来自专栏机器人网

面对机器人面试官,求职的你会怯场吗?

上周三,微软小冰解锁了新技能——「面试官」,自行对「微软(亚洲)互联网工程院·人工智能组」招募的实习生进行面试,据微软(亚洲)互联网工程院人工智能组人员透露,...

3058
来自专栏大数据文摘

清华x-lab AI研习社 | 创新工场王咏刚:人工智能在线下落地难不是问题,而是巨大的机遇

1854

扫码关注云+社区

领取腾讯云代金券