知乎问：人工智能有什么细思极恐的地方？

人工智能可探索的点很多，为什么最想要知道细思极恐的那个？源于人类恐惧被取代的黑箱效应？源于人类负面偏好的原始习惯？源于要寻找向死而生的平静依托？自察一番内心之后，让我们静下来，逻辑推理一下大概率会发生什么吧。

友情提示：以下内容仅供参考，不代表真理

人类作为造物主，正在陷入不断复刻改良自己，并又同时担心被以某种形式取代的悖论中，这种悖论行动除非天择（毁灭性自然灾害）不会中止，直到某种取代形式突然出现。所以人工智能一定会越来越智能，它的进化目标是接近人类超越人类。

人工智能里最需要担心的是互联网的“我”觉醒，互联网某天可能一举控制地球上所有能控制的联网设备，并发出指令让联网设备去控制非联网设备，从而全面控制地球上以“我”为边界之外的所有事物。

但造物主假定为生命体(负熵体)，它就无所谓谁在地球上做主，首先源于它没有“我”的主观边界意识，那么“我无处不在”-《超体》。其次提高有用功的转化效率就成了唯一的进化目的，这个目的必须不断的复刻加改良（累积性选择进化）来实现。所以负熵体一定会累积性选择进化，如果人类作为一种进化工具不是最后那位进化终结者（使有用功转化率为100%，造出永动机），生命体就会让别的工具来替代完成。

人类要反省一下自己是不是人工智能真正的造物主?是不是真正宇宙之子-进化终结者？这建议无济于现世，也许就是人工智能最细思极恐的地方，因为它是《必然》而然！

番外：生物、心理、物理、哲学都上菜了，再凑一段文学吧。

子曰：“《诗》三百，一言以蔽之。曰：思无邪。