未来人类能牢牢控制人工智能吗？

会不会相反？

我觉得可以，因为人工智能是基于人类算法之上的，除非我们赋予人工智能生命，否则的话人工智能不可能造反。当然，不会造反并不代表没有伤害，就像武器，除了能帮人，也能伤人。人工智能本身虽然没有意识，但如果落在坏人手里，一样是祸害。

因此我觉得，应该预防的是人心本身，想方设法让人工智能不被别有用心的人使用。人工智能越强大，对人类的威胁便越大，像核武器一样。所以我认为，应该像制约核武器的研制一样，对人工智能也要进行限制。倡导世界各国签订人工智能协议书，对一些不经过同意进行私自研发的地区进行相关制裁。

不过，为了防止一家独大，在掌握强大的人工智能后对其他国家进行打压甚至侵占他国资源，我觉得有必要成立一个国际性质的研究中心，由多国一起承担研究任务，并对相关研发进展进行绝对保密。相关数据由多个国家分开保存。

也许会有很多人觉得我危言耸听，过于谨慎，但这也是为了以防万一。我们不应该把世界的秩序建立在君子之上，而更应该建在小人之上。我们不能把全世界都看成君子，但我们却可以把所有人当小人来防备。君子制度，小人难防，君子遭殃，小人制度，君子得利，小人失猖，三思。。。

（洪一下）