人工智能“教父”退出谷歌，并对世界发出警告

一位人工智能先驱表示，在意识到计算机可能比他和其他专家预期的更早变得比人更聪明之后，他选择离开谷歌，以便自由谈论这项技术的危险。

杰弗里·辛顿（Geoffrey Hinton）在Twitter上写道：“我离开了，这样我就可以谈论人工智能的危险，而不考虑这对谷歌有什么影响。”

在接受《纽约时报》采访时，辛顿先生表示，他担心人工智能会制造出令人信服的虚假图像和文本，从而创造一个人们“无法再知道什么是真实”的世界。

“很难看出如何防止坏人利用它来做坏事，”他说。

人们担心这项技术会迅速取代工人，并在学习新行为时成为更大的危险。他告诉《纽约时报》：“一些人早就开始相信，这一技术实际上可以变得比人更聪明。”

“但大多数人曾认为这还很遥远。我曾认为这还很遥远。我曾认为那是30到50年甚至更长时间后的事。但显然，我不再那样想了。”

辛顿在他的推文中说，谷歌本身“表现得非常负责任”，并否认他辞职是为了能够批评他的前雇主。

谷歌没有立即回应路透社的置评请求。

《泰晤士报》援引谷歌首席科学家杰夫·迪安（Jeff Dean）在一份声明中说： “我们仍然致力于以负责任的方式对待人工智能。我们在不断学习，以了解新出现的风险，同时也在大胆创新。”

是时候监管人工智能了吗？

自从微软支持的初创公司OpenAI在11月发布ChatGPT以来，越来越多能够创造文本或图像的“生成性人工智能”应用程序引发了对该技术未来监管的担忧。

牛津大学人工智能伦理研究所的哲学副教授卡里萨·维利兹（Carissa Veliz）说：“这么多专家都在谈论他们对人工智能安全的担忧，一些计算机科学家甚至对他们的一些工作感到后悔，这应该给政策制定者敲响警钟。”

她说：“现在是监管人工智能的时候了。”

白宫召集科技公司讨论AI风险

据一位白宫官员称，谷歌、微软、OpenAI和Anthropic的首席执行官周四与美国副总统卡马拉·哈里斯（Kamala Harris）和政府高层官员会面，讨论关键的人工智能问题。

路透社获取的发送给这些首席执行官的邀请函指出，总统拜登（Joe Biden）“期望像你们这样的公司在向公众提供产品之前必须确保其产品安全”。

对快速增长的人工智能技术的担忧包括侵犯隐私、偏见以及对其可能扩散诈骗和错误信息的担忧。

4月，拜登表示，人工智能是否危险还有待观察，但他强调，技术公司有责任确保其产品的安全。

他说，社交媒体已经说明，如果没有正确的保障措施，强大的技术可以造成伤害。

随着人们越来越担心人工智能对国家安全和教育的影响，政府还一直在就拟议的人工智能系统问责措施征求公众意见。

周一，白宫国内政策委员会和白宫科技政策办公室的代表在一篇博文中写道，该技术可能对工人构成严重风险。

目前，ChatGPT是一个人工智能程序，能够快速回答各种问题，尤其吸引了美国立法者的注意，因为它已经发展成为历史上增长最快的消费者应用程序，每月活跃用户超过1亿。

“我认为我们应该对人工智能保持谨慎，我认为政府应该进行一些监督，因为它对公众构成威胁，”特斯拉首席执行官埃隆·马斯克（Elon Musk）上个月在接受电视采访时表示。