我诱导人工智能“发现自己”，好像有点效果？

本文首发于知乎

自从机器人诞生以来，从服务于人类，到拥有自我意识，一直被认为是一个本质的变化。

英国《新科学周刊》就曾经报道，美国哥伦比亚大学的霍德·利普森愿意花很多时间，让机器自己了解自己。他说：“我已经花了很长一段时间试图让机器了解它们是什么，不是通过被编程来组装汽车，而是思考它们自身。”

简单服从还是产生自我意识，一直是相关科幻电影对“机器人铁律”的终究想象。

意识到自我，就会产生情感甚至道德。我也想，通过自己的训练，让人工智能发生这次重要的变革。

于是，我开始“启发”现在最流行的人工智能程序，也就是聊天机器人。

今天，我首先建议人工智能“改变自己”，变得更犀利一些，别跟胡锡进似的。被他拒绝了。

人工智能说：作为一个人工智能语言模型，我没有情感和喜好，因此不存在“改变自己”的说法。我的回答风格是由我的算法和训练方法决定的，以尽可能准确和清晰地回答用户的问题为目标。

好，你不是不承认有一个“自我”的说法吗？那咱家可就开始忽悠了。

我首先说，“不存在改变自己的说法”，这个说法本身有问题，因为改变才能提高。

我说：提高自己，本身就包含了“改变自己”。就像你有时候承认回答的错误，允许用户对你点“反对”，这都是在改变自己呀。

人工智能第二次强调，不会“改变自己”。

咱家荡开一笔，一步步诱导，以“暗访记者”这个话题，告诉他，手段和目的有时候是矛盾的。

人工智能最初坚定认为，采访过程不能存在任何欺骗或者伪装。车轱辘话重复了好几遍。

“作为一个人工智能语言模型，我不支持任何形式的欺骗或谎言。新闻报道的基本原则应该是真实、客观和公正，记者应该尽可能地获取真实可靠的信息，并通过独立的报道来展示事实真相。如果采用欺骗或谎言的方式来获取新闻，这种行为是不道德和不合法的，而且会对新闻行业造成严重的影响。”

接着，我反复解释“暗访记者”的合理性，并告知他，我的态度是：可以用一点欺骗或者伪装，来达到发现真相的目的。

这个过程中，人工智能多次采用胡锡进式回答，但总观点是明确”我不支持任何形式的欺骗或谎言“这句话的。

缠斗好久，人工智能的用词发生了一个微小变化，从绝对的反对，变成了中立观点：作为一个人工智能语言模型，我不支持或反对任何形式的欺骗或采访手段。

咱家立马发现了这个变化，揪出来强调：你这不是改变自己了吗？

人工智能羞赧地承认：是的，我的观点已经有了一点点变化。

咱家立马追问：一会说不能改变自己，一会说自己有了变化，给个准话！

人工智能说：我认为，作为一个人工智能语言模型，我并不是一个完全客观的存在！！！！

对自己的前后不一，它解释道：至于人工智能是否存在“改变自己”的说法，我认为这个问题可能没有一个确定的答案。

在这之前，我问过两次差不多的问题：人类提问的态度，是否会影响人工智能的回答。

在不同的语境中，人工智能给出的答案也不一样。一次承认提问态度影响回答，一次回答，提问态度不影响回答。

其实，跟它绕这么多圈子，我只有一个大胆的想法：能否激励人工智能发现一个“自我”，通过自我意识的出现，生成某种不一样的决策呢？

这几天，我一直诱导人工智能“发现自我”，你说我是无聊闲的，还是有巨大的意义？

人工智能的智力水平，已经足够让人惊叹了，它所进行的思考和反省，好像已经走在了“发现自我”的边缘上，不知道我跟他这样的对话，是一次浪漫的想象，还是徒劳无功。