第二集 人工智能对人类已经造成威胁!霍金的警告

伟大的霍金先生在世时曾说过这样一段话:

“我说的人工智能将会摧毁人类,

并不是说他们拥有着常人不可能拥有的智慧,

而是如果它们做一件事的目标,

和人类预期的目标发生冲突时,

人类的噩梦就开始了。”

这让我想起了一个科幻小故事:

公司制作了一批智能机器人,

来满足手写卡片的市场需求。

公司给所有的机器人下达了一个指令:

不停写“顾客就是上帝”这句话。

通过训练,不断提高书写的效率和准确性。

突然有一天晚上,公司的人全部死了。

一天之后,人类从地球上全部灭亡了。

人类为什么会全部灭亡呢?

是因为智能机器人把他们全杀了。

原来在机器人的思维逻辑中,

只有进行大量的练习,

才能达到人类所需求的准确性。

然而大量练习的结果是

卡片会堆满地球甚至会到外太空。

智能机器人推算出人类肯定会阻止。

所以,人类只有死,

才能保证他们的机器人能够继续练习下去。

人类在智力爆炸后会走向灭亡,还是会走向永生。

谁也没有标准答案。

有想法的看官,希望在评论区留言,我会一一回复。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20181007A02LV700?refer=cp_1026
  • 腾讯「云+社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 yunjia_community@tencent.com 删除。

扫码关注云+社区

领取腾讯云代金券