首页
学习
活动
专区
工具
TVP
发布

一张照片突然刷爆朋友圈!黑天鹅已经起飞,你还浑然不觉……

一声冷汗!

科技的进步总是出乎我们意料。

近日,一张视频监控图像在网上疯传。图片显示的,是某大学在部分教室“试水”的人脸识别系统:两位学生正身处教室,而人工智能系统早已在一旁标注出她们在课堂上睡觉、举手、趴桌子和阅读的次数。

据梨视频报道,上述旷视人脸识别系统早已落地应用在中国药科大学,该校两间教室“试水”安装人脸识别系统。

这一系统在学生进教室后,即能自动识别个人信息,学生是否认真听讲,课堂上是否抬头低头,抬头低头了几次,抬头低头了多长时间,低头是否在玩手机,是否闭眼打瞌睡,都能被人脸识别系统实时监控。

随之,网上又爆出,上海中医药大学附属闵行蔷薇小学正在构建智能课堂行为分析系统,运用如姿态评估、表情识别、语言识别、教师轨迹热力分析等技术,探索对课堂教学过程的定量分析。

消息曝光后,网上一片哗然。很多人纷纷吐槽:学生首先是一个人,又不是学校的私有物品,学校无权进行如此监控。

网络舆论如此之大,让教育部也坐不住了。今天,教育部有关负责人表示,人脸识别进校园,既有数据安全也有个人隐私问题,要加以限制和管理,希望学校非常慎重地使用这些技术软件。

的确,教育本该建立在人与人、人与世界的沟通和互动中。如果运用人脸识别这种人工智能来监控学生,将来,学生和老师的心灵交流将形同虚设,教育二字荡然无存,只剩机械的控制。

技术发展,已经掀起了排空巨浪,福耶祸耶,只有靠我们自己把握了!

其实,人脸识别,还仅仅是人工智能运用的冰山一角。仅仅是一个脸,人工智能就可以作很多文章。

比如,AI换脸技术!

从上周末开始,一个名为“ZAO”的AI换脸App忽然火爆全网,用这款App制作的换脸视频在微博、朋友圈随处可见。

只要一张照片,想附体谁就附体谁!

ZAO最大的噱头是和明星“换脸”,并且嵌入短视频中,可下载后传播,用于社交娱乐。

这一技术,其实背后用的是“deepfakes”直接开源的AI换脸项目代码。在deepfakes代码开源后,AI换脸技术一下子如星星之火,一瞬间烧遍了整个世界。

AI换脸的威力极为强大,只需几张图片,就能还原3D人脸动态,逼真到人鬼莫辨。

比如,这些奥巴马里,哪个是真的?

其实,他们都是假的。

AI换脸的应用后果,也是相当可怕的。比如,它可以把情色电影里的女主角换成了盖尔·加朵等好莱坞明星。

实际上,这类“换脸”的受害者除了盖尔·加朵,还包括黛茜·雷德利、娜塔莉·波特曼等一众好莱坞女星。国内当红的女星们也纷纷中招。

你想想,只需要一个身材诱人的身体,就能P出任何一个女明星来,这是多大的钱景?

好莱坞女星斯嘉丽·约翰逊在华盛顿邮报的采访中表示:“让任何一个人成为这项技术的攻击目标只是时间问题。”

最可怕的,是按照ZAO的服务协议,当你选择使用这个app以后,根据协议内容,该app除了可免费使用并修改你的肖像,还可以将它任意授权给自己想授权的第三方,当做信息进行贩卖。

换句话说,你今天在网上换脸,当你觉得很开心的时候,其实,你的脸,已经不再只属于你自己,它也归ZAO,及它想授权的所有人。

往远处想,这种无缝替换人脸的技术,还可以被犯罪分子利用,玩出无数的花样。比如,使用这项技术无缝把老人子女的脸融入视频中,不管是生病要钱,还是绑架,还是转账,都很容易骗到老人。

细思恐极!大家不能低估了人性的恶。在这种技术面前,每个人都可能成为潜在的受害者。

当然,最让人担心的还是,人工智能被利用来进行战争和杀戮。

在日内瓦举办的、有超过七十个国家代表出席的联合国武器公约会议上,一段可怕的视频公诸于众,一时间引起世界恐慌!

为啥如此吓人?

因为它曝光了人类史上一个恐怖武器——杀手机器人!

这个杀手机器人,其实是一架体型很小的智能无人机,就跟蜜蜂一样大,但它的处理器比人类快100倍,可以躲避人类各种追踪。

然而,蜜蜂虽小,五脏俱全,尤其是它全身的黑科技:广角摄像头、传感器、面部识别,应有尽有。只要把目标图像信息输入它身上,它就能手术刀般精准找到打击对象,戴口罩、伪装统统没用,它的识别率高达99.99!

再次,每个杀手机器人配有3克浓缩炸药,确定目标后,一次撞击可以毫无压力爆头,摧毁整个大脑。而且它还能穿透建筑物、汽车、火车,躲避人类子弹,应对几乎所有防御手段。总之,这个杀手机器人目前是bug般的存在!

如果把一个造价仅2500万美元的杀人机器蜂群释放出去,就可以杀死半个城市的人。只要你把敌人挑出来,定义每一个人的面部信息,蜂群就能发起针对性打击了!

试想,如果人工智能杀手,再运用上基因武器,就会把战争冲突升级至前所未有的规模,而且人类将很难控制住局面。

更可怕的是,如果有科学家因为私心在代码里面加了一行毁灭人类的指令,或者人工智能突然变异成反人类的品种,整个人类或将被机器人的基因武器横扫,甚至灭亡!

的确,未来,人工智能会发展成什么样,给我们的生活造成什么影响,它究竟是普罗米修斯的火种还是潘多拉的魔盒。

我们目前不得而知。

未来已来!

从今天起,一只命运的蝴蝶,已经张开了它颠覆之翅!这次看似不太起眼的翅膀扇动,注定将在不远的将来,引起山呼海啸般的巨震!

从今天起,人工智能不再是科幻小说,不再是阅读理解,不再是新闻标题,不再是试管中荡漾的液体和双螺旋体中孱弱的灵魂,而是实实在在的宿命。

人类历史上,每一次重大的技术革命,都会引发对人类自身乃至整个社会的冲击。脑机接口也一样,对人类社会来说,这或是一场充满不确定性的大海啸!

铁器的发明,传统农业社会的出现,引发了一场冷兵器时代的战争。在中国,这场战争从春秋战国时期,一直打到了汉代,才告终结。

电力的发明,工业社会的出现,引发第一次世界大战和世界大战,让整个二十世纪上半叶,染上了血色。

现在,随着人工智能等技术等推进,在带来科技福利的同时,也将引发一场新的社会变革的风暴。

《天龙八部》里的扫地僧说,少林七十二绝技每练一技都需要相应的佛法才能化解,而要把七十二绝技学成于一身需要极高深的心法修为,萧峰和慕容复的老爸都因为偷学绝技但心法没跟上而深受其害。

技术发展日新月异,对人性的反噬潜移默化,人的修为跟得上AI吗?我们能不能有相应的思想和制度制约,来化解AI这项绝顶武功带来的毒素?

写到这里,不知道为什么,我突然想起了小说狄更斯 《双城记》开篇的那段话:

这是一个最好的时代,这是一个最坏的时代;这是一个智慧的年代,这是一个愚蠢的年代;这是一个信仰的时期,这是一个怀疑的时期;这是一个光明的季节,这是一个黑暗的季节;这是希望之春,这是失望之冬;人们面前应有尽有,人们面前一无所有;人们正踏上天堂之路,人们正走向地狱之门。

水可载舟,亦可覆舟,技术也是如此!

善良的人们啊,你们要更审慎!

另:大量读者还有没养成点赞的习惯,希望大家阅读后顺手点“在看”并转发,以示鼓励!长期坚持原创真的很不容易,多次想放弃。坚持是一种信仰,专注是一种态度。

推荐两个不错的微信公众号:

正商透视(ID:ZSTSMD)

政闻天下(ID:ZWTXMF)

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20190905A0QB2X00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券