霍金:人工智能可能导致人类灭亡

5月3日消息,著名物理学家史蒂芬霍金(Steven Hawking)在讨论约翰尼德普(Johnny Depp)主演的新片《超验骇客》时称,人工智能或许不但是人类历史上最大的事件,而且还有可能是最后的事件。他的意思是:人工智能可能会导致人类的灭亡。

当你为人工智能技术的飞速发展而欢呼雀跃的时候,你是否想过这可能并不是一件好事?在观看了德普主演的新片《超验骇客》后,霍金在为《独立》杂志撰写的一篇文章中明确地表达了他对这个问题的担忧。

霍金担忧的对象不仅仅是未来的人工智能技术,甚至还包括现在的一些公司比如谷歌和Facebook。他说:“人工智能的短期影响取决于由谁来控制它,而长期影响则取决于它是否能够被控制。”不管从短期还是长期角度来说,人工智能都存在着巨大的潜在风险。实际上,霍金似乎根本就不信任所谓的人工智能专家。

他说:“未来可能出现的情况到底是好是坏完全是无法预料的,面对这种情况,专家们肯定会尽一切可能去保证得到最好的结果,对吗?错!如果有一个优越的外星文明给我们发来一条信息说:‘我们将在几十年之后到达地球,’我们是否应该回答说:‘好的,当你到达地球的时候请通知一下我们,我们将给你留门’?我们可能不会那么做,但是如果人工智能技术继续发展下去,差不多就会出现那样的情况。”

实际上,坚持技术发展似乎可以消除或避免最终产品可能对人类构成的威胁。无人汽车就是个很好的例子。工程师们似乎并不关心人们在开车的过程中获得的乐趣。

霍金承认,机器人和其他的人工智能设备也许会给人类带来巨大的好处。如果那些设备的设计非常成功,就能给人类带来巨大的好处,他说那将是人类历史上最大的事件。然而他同时也提醒说,人工智能也有可能是人类历史上最后的事件。

实际上,人类在考核人工智能技术的潜在风险和收益方面所做的研究工作太少。霍金对此表示担忧和哀叹。

他说:“人工智能技术发展到极致程度时,我们将面临着人类历史上的最好或者最坏的事情。”

霍金以前就曾试图提醒人们注意一点,即科幻的魅力会蒙蔽我们的双眼。它有时会掩盖住一个重要的问题,即最终的结果有可能引发一场浩劫。他曾经说过,外星文明可能会憎恨地球文明。

人类有一种自恋的倾向,盲目相信自己很聪明而从不考虑事情有时可能会出错。或许正如霍金所说的那样,科技行业应该更多地把关注的焦点放在未雨绸缪上面。

摘自:腾讯科技

原文发布于微信公众号 - 大数据文摘(BigDataDigest)

原文发表时间:2014-05-04

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

相关文章

来自专栏钱塘大数据

【企鹅智酷最新报告】微信2017用户研究和商机洞察

8.89亿月活跃用户,近一年来直接带动信息消费1742.5亿元——经过六年的高速发展,微信已经成为了中国移动互联网的国民级应用。 但在这些“看得到的数据”背后,...

578100
来自专栏程序员互动联盟

三本学院学软件工程的人有出路吗?

学习软件工程有没有出路和什么样子的学校并不是直接的关系,三本固然是和一本,二本有差异,软件工程算是定向培养程序员的一个专业,在编程领域对于学历的要求不是那么深刻...

1.6K50
来自专栏SDNLAB

思科重返网络市场,下一步它准备怎么走?

自Chuck Robbins接任思科首席执行官以来,思科的转变不容忽视。2015年8月Chuck Robbins上任,思科的股票交易价格约为每股25美元,多年来...

14330
来自专栏VRPinea

秒杀视频聊天!HoloLens的新应用直接把你“传输”到对方身边

34560
来自专栏新智元

MIT数亿美金构建MIT IQ 项目,逆向工程人类智能打造可自我发育的计算机

来源:zdnet.com 编译:马文 【新智元导读】MIT发起MIT IQ项目,旨在联合多个学科,对人类智能进行逆向工程,为机器学习和人工智能创造新的算法,并促...

39180
来自专栏程序员互动联盟

遇到一个能力强但学历造假的程序员时,到底应不应该开除?

作为已经工作十几年的程序员在平时在面试过程中的确遇见学历造假的程序员,但水平还可以的程序员,针对这种情况基本上由于很多公司在招生简章上写死的学历直接卡死了很多人...

40660
来自专栏程序员互动联盟

如何在大一时候系统学习编程?

正常来讲如果从大一就开始搞编程来讲,做个系统的规划,在大学里面基本就能把编程底子给打好,在毕业的时候直接找份编程的工作,不是什么很奢望的事情。很多大学生进入大学...

9720
来自专栏量子位

硅谷钢铁侠马斯克:2030年AI样样都比人类强

问耕 编译整理 量子位 出品 | 公众号 QbitAI 最近牛津大学、耶鲁大学面向352名专家的联合调查结果显示,到2060年前,人工智能将在任何事情上击败人类...

38690
来自专栏逸鹏说道

Google开始自主研发处理器

从Google的发展历程来看,它一直都不是一家硬件厂商,即使是自己推出的硬件产品也都是靠OEM厂商来代工。很典型的例子就是Chromebook和Nexus系列。...

28440
来自专栏新智元

【把机器人当人看】图灵发布具备情感和思维强化的机器人操作系统

今天北京初雪,但没有挡住众多机器人产业界精英对图灵机器人新品发布会的强烈好奇与热情。俞志晨是国内人工智能创业团队里最受关注的新星之一,他对机器人事业的虔诚...

368100

扫码关注云+社区

领取腾讯云代金券