人工智能过于强大 开发者称无法向公众发布

北京时间2月15日报道，人工智能非营利组织OpenAI近日开发出了一种非常擅长编写文本的人工智能，它可以写小说，还能发布假新闻或在社交媒体上发帖子。你所要做的只是提供主题或写出开头的第一句话，然后人工智能将通过尝试编写类似人类的文本来完成剩下的工作。

OpenAI决定保守其背后的技术秘密，因为他们担心这种技术会被用来编写高质量的假新闻。

OpenAI研发人员当地时间2月14日在一篇博客文章中写道：“由于我们担心有人恶意应用该技术，所以我们不会发布这一经过训练的（AI）模型。”

与其他AI计算系统相比，这种名为GPT-2的人工智能只需获得一个简短的文字提示，就能写出“前所未有的高质量”文本。例如，人工智能可以写出大量虚构的故事。它还可以完成家庭作业。

尽管结果并不总是有意义，但人工智能的书写内容在50%的情况下看起来非常像人类所写，非常自然。

OpenAI模拟撰写的小说故事

那么该人工智能技术是如何工作的呢？OpenAI在其博客中解释说：“GPT-2的训练目标很简单：通过给定文本中的所有前面单词来预测下一个单词。”为了预测下一个单词，人工智能接受训练，学习Reddit用户发布的800万个网页数据并模拟写作。

因此，该人工智能系统也可以根据你给它的提示来改变自己的写作风格。例如，如果你输入英国左翼作家乔治·奥威尔(George Orwell)的科幻小说《一九八四》的第一行，系统就会继续编写余下的文本，就像编写反乌托邦小说一样。

该人工智能还擅长写新闻，并且不管其是真的或是假的。给它一个新闻文章风格的写作提示，AI就能令人信服地充实其余部分。

OpenAI模拟编写的新闻报道

OpenAI还获得了特斯拉CEO马斯克的支持。基于安全考虑，该公司决定对GPT-2的计算编码保密。他们担心该人工智能会落入坏人之手，在网络上制造骗局，在社交媒体上发布虚假帖子，大范围发送垃圾邮件。

当然，同样的技术也有潜在的好处。想象一下人工智能写作助手、听起来更自然的聊天机器人、更好的语言翻译机。但目前，OpenAI决定只提供一种规模较小的基于GPT-2的计算模型，供公众试用。但不会公布其训练代码或建模数据。

OpenAI的政策主管杰克·克拉克(Jack Clark)在推特上表示：“我们需要更好的政策来应对日益变动的技术。我们还没有准备好迎接这个东西。”

OpenAI在其博客中补充道，随着时间的推移，研究团体需要制定出关于人工智能技术应该如何公开的规范。为了防止潜在的滥用，这家研究公司还建议政府介入，考虑扩大监控人工智能技术影响和传播的方式。