AI要开始反噬人类了吗？

杭报集团业务交流

……………探|寻|新|闻|背|后|的|故|事…………

最近埃航的空难，关联到半年前狮航的空难，把波音737MAX这款最畅销的机型推上了热搜。随着调查的深入以及海量资讯的汇集，空难的原因直指波音737 MAX的“自动防失速系统”。两次极其相似的空难轨迹，飞行员都是在与自动驾驶系统顽强搏斗以后，最终人斗不过人工智能，导致机毁人亡。

与正在跃跃欲试的汽车自动驾驶系统相比，飞机的自动驾驶系统早就被广泛应用，在我们上空每天在穿梭的航班，驾驶当然不是全部交给AI，而是分段分时，基本上是“手动+AI”来完成。飞行员仍是主控。而737MAX的“自动防失速系统”，据说是因为波音要追赶空客320NEO,用上了跟737难匹配的发动机，为了修正硬件上的缺陷，防止发动机太重，飞机的飞行中机头上翘导致失速，而用上了一个传感器来读取机头的仰角，如果超过预设的角度，则自动触发“自动防失速系统”，系统将自动将飞机机头往下按。两次空难，都是传感器读数错误，触发系统后，在飞机起飞的上升途中，自动驾驶系统接管操控，控制飞机俯冲。飞行员发觉不对，手动关闭自动驾驶系统，但自动驾驶程序又把操控抢过去……于是飞行员再把机头抬起来，自动驾驶程序就再把机头按下去让飞机再次俯冲，这样拉起来，按下去，拉起来，按下去……这场残酷的“人机大战”，持续不长的时间很快结束，因为坠机了！

作为一个人工智能系统，当程序被设定以后，它认为做事一定要负责，不达目的誓不罢休。

波音737MAX空难事件，又把我们拉到霍金教授提出的“人工智能技术，必将会对人类构成威胁吗”，这一沉甸甸的问题面前陷入深思。

对于人工智能反噬人类，多年来，许多科幻影视作品，如《未来战士》《生化危机》《升级》《黑镜》等都围绕这一题材，乐此不疲。人类创造了人工智能，但人工智能却反而会来反制或伤害甚至摧毁灭绝人类。

关于人工智能故意摧毁人类这一点，霍金教授认为，现阶段最大的危险不是人工智能机器人会有计划地摧毁人类，而是它们完全抛弃了人类，具有了自主决策的能力。他说，人工智能不可能产生与人类敌对的意识，但它们在追求自身设定的目标时，会对人类的利益造成伤害。真正的风险不在于敌意，而在于能力。也就是说，机器人带给人类的伤害，很大程度上属于无意伤害。

人工智能设定目标以后的自我学习，通过自我学习优化提高自己的能力，这个技能，人类已经忘尘莫及。大家还记得那只会下棋的阿尔法狗吧，通过自我学习，把当年的围棋天下第一人柯洁，虐到痛哭。

这种超级人工智能机器人将极善于达成自己所设定的目标，而如果它所设定的目标与人类的目标并不相互吻合时，那么人类可能就有麻烦了。科幻作品展示的已是人工智能的高级阶段——人工智能机器人具有了情感。霍金教授预计，当人工智能机器人具有了情感，那么它们就会最终进化出对生存的渴望。当智能机器人具备了人类一样的生存能力，它们就会不再依赖人类，而是会自主进行自我完善和自我升级。这时，机器人世界就会出现“技术大爆炸”。最终，机器人的技术能力就会远远超越人类，终至把人类越甩越远，就如同现阶段人类的技术能力远远超越蜗牛一样。

听起来悲观吧，恐怖吧？不过，让人心安的是，就目前人工智能技术发展现状来说，与研制出和人脑功能相当或远超人脑功能的机器的要求还存在着相当遥远的差距。

当然，与霍金教授相反观点也占了主流，人工智能只是人的身体、智力的一种工具性延伸，它所不断增强的也只是这种工具性的能力，而不是像人类那样具有无中生有的发明创造能力。现今出现的机器人战胜人类的各种能力，棋艺也好，自动驾驶技能也好，都是在人类现有能力基础上，对人类知识、信息处理方式所总结出的一种优化处理方式。即便今后真的出现所谓的有情感的智能机器人，也只是对人类的表情和语言特征进行程序化应对，并不表明机器人拥有了同人类一样的情感。但有一点，人工智能就好像一种先进的武器，武器本身并不具备夺取生命的主动权，而是完全听命于掌控它的使用者。

回到737MAX这件事上，失控的仍是主导这项技术的人的问题。据最新消息，本该有空管部门来做的波音737MAX安全评估，竟授权给了波音公司自己做！飞行员仅用iPad学习驾驶！

人类社会要发展，科学技术要进步。我们不能松懈的是，人类自己要时刻保持清醒的头脑，要有敬畏之心！

人工智能一往无前，势不可挡。它最终是天使还是魔鬼，完全取决于开发和应用技术的人类。

图片来源：杭州日报、都市快报

作者吴幼祥

IT老记，从纸媒转会网媒

还曾客串政务新媒体

自定义“融媒体不老不新之一兵”

偶有感悟，顺手会捋下

不成体系甚至不成完整文章

是为“碎片整理”

小编24小时不定时在线

欢迎交流

✉