到目前为止，AI做过最可怕的事情是什么？后果比你想象的更严重

目前的AI还处于幼稚期，功能碎片化，不过按照目前的迭代速度和集成模式，将会很快发展出对人类有具体威胁的功能。

大家目前的担心多数局限在AI自身能力的进化，这个原理上可控，短期不存在问题。短期可能形成问题的很可能是少数人缺乏道德出于自私目的，利用AI进行破坏。或者因为代码不严谨导致算法失控，未来使用基因算法的编程机器人广泛使用，将写出大量人类完全无法理解的程序，将使局面更加失控。

就拿文案机器人举例，输入关键词与主旨，文章生成机器人可以在几秒钟之内创作出不同切入点和描写方式的几百篇文章。现在，请摸着你的良心告诉我，你比得过吗？

当人类开始预见人工智能会有独自意识，智商已经达到把人类自身引以为傲的智商碾成渣，人类开始担心会被人工智能统治或者灭绝。强者欺负弱者，这不就是地球上的必然法则吗！但即使这样担心，人类还是毫不犹豫地进行着人工智能的研发，这就是我们人类的好奇心！

在实验初始阶段相对顺利，但人工智能（AI）系统渐渐学会了撒谎，假装表现对想要的物品不感兴趣，最后达成妥协，但这一行为并不是研究人员编写进去的。此外，科学家还发现两个人工智能（AI）系统在用一种神秘的语言交流，这种语言从来没有听过。这说明，可能是系统出了故障，也可能是人工智能（AI）系统学会了欺骗人类。如果是后者，将非常可怕。