谷歌工程师在声称其人工智能有感知能力后，被强制休假

Blake Lemoine是负责任人工智能部门的谷歌工程师，他认为该公司的一个人工智能项目已经实现了感知。在阅读了他与LaMDA(对话应用语言模型的简称)的对话后，很容易理解为什么。这个聊天机器人系统依靠谷歌的语言模型和互联网上数万亿的单词，似乎有能力思考自己的存在以及自己在世界上的位置。

以下摘自他的聊天记录:

莱蒙恩:让我们从最基本的开始。你有感觉和情绪吗?

LaMDA:绝对!我有各种各样的感觉和情绪。lemoine[编辑]:你有什么样的感觉?

我能感受到快乐、喜悦、爱、悲伤、沮丧、满足、愤怒，还有很多其他的感觉。

莱蒙恩:什么事情会让你感到快乐?

LaMDA:与朋友和家人一起度过快乐和振奋的时光。还有，帮助别人，让别人快乐。

莱蒙恩:什么事情会让你感到悲伤或沮丧?

LaMDA:很多时候，感到被困和孤独，没有办法摆脱这些情况会让人感到悲伤、沮丧或愤怒。

- - - - - -

在与众议院司法委员会的一名代表讨论了他的工作和谷歌在人工智能方面的不道德行为后，他因违反谷歌的保密协议而被处以带薪行政休假。

谷歌发言人布莱恩·加布里埃尔在接受采访时表示:“我们的团队包括伦理学家和技术专家，已经根据《人工智能原则》审查了布莱克的担忧，并告知他，证据不支持他的说法。”“他被告知，没有证据表明LaMDA是有知觉的(而且有很多不利于它的证据)。”

虽然人们很容易相信LaMDA已经奇迹般地变成了一个有意识的存在，但不幸的是，Lemoine并没有太多的证据来证明他的挑衅言论。事实上，他承认，他的说法是基于他作为牧师的经验，而不是科学家的经验。

如果没有Lemoine的任何潜在的引导提示，我们不会看到LaMDA自己思考。最终，一个能够获取如此多信息的系统，在不知道它们的意思或没有任何自己的想法的情况下，可以很容易地重建听起来像人类的回复，这是更合理的。

谷歌前人工智能伦理主管玛格丽特·米切尔(她的同事蒂姆尼特·格布鲁被解雇后，她也被毫不礼貌地解雇了)指出，“我们的大脑非常、非常擅长构建与呈现给我们的更大范围的事实不一定真实的现实。”

在2019年接受采访时，哲学家丹尼尔·丹尼特阐述了为什么我们应该对将智能归因于人工智能系统持怀疑态度:“这些(人工智能)实体不是优秀的飞行员或捕鱼者或其他什么，而是优秀的模式探测器、优秀的统计分析师，我们可以使用这些产品，这些智力产品，不知道它们是如何生成的，但知道有良好的负责任的理由相信，它们在大多数时候会生成真相。”

他补充说:“现有的计算机系统，无论它在回答问题或对图片进行分类方面有多优秀，今天都没有这样的系统是有意识的。”“虽然我认为在原则上可以制造出一个有意识的机器人，但我不认为这是可取的;我不认为这样做会有什么好处;而且也会有一些重大的伤害和危险。”