OpenAI发布Classifier：用于检测人工智能生成的文本

作者：Mitchell Clark

DALL-E和ChatGPT背后的公司OpenAI发布了一个免费工具，它说这是为了 "区分人类写的文本和AI写的文本"。它在一份新闻稿中声明说，该分类器 (Classifier) "不完全可靠"，"不应作为主要决策工具"。根据OpenAI的说法，在确定某人是否试图将AI生成的文本冒充为人写的东西时，它可以发挥作用。

这个被称为分类器的工具相对简单，不过你必须有一个免费的OpenAI账户才能使用它。你只需将文本粘贴到一个文本框里，点击一个按钮，它就会告诉你它认为该文本是否非常不可能、不可能、不清楚，如果是、可能、或非常可能是AI生成的。

在其新闻稿中，OpenAI说它使用人类写的文本和人工智能写的同一主题的文本来训练支持该工具的模型。

该公司还表示，它有时会 "错误但自信地 "将人类写的文本标记为来自人工智能，特别是如果它与训练数据中的任何内容都非常不同。它明确表示，该分类器在很大程度上仍是一项 "进展中的工作"。

对于CNET Money撰写的一些文章，我得到了 "不清楚 "的结果，而其他文章则得到了 "不太可能 "的分类。该媒体称，这些文章 "由人工智能引擎协助，并由我们的编辑人员进行审查、事实核查和编辑"，因此其中可能有一些人为的调整（尤其是CNET已经对其中一半以上的文章进行了修正）。虽然CNET的所有者没有说它使用哪种具体的系统来处理这些文章，但有报告说它使用了一种叫做Wordsmith的工具来处理一些内容。不过，OpenAI说它的工具不只是用于GPT，它应该能检测 "由各种供应商的AI编写的文本"。

我并不是说OpenAI的分类器完全不起作用。我通过它检测了一些人们发布的ChatGPT回复的例子，它将其中大部分标记为 "可能 "或 "非常可能 "由AI生成。OpenAI还表示，在其测试中，该工具有26%的时间将人工智能编写的文本标记为 "可能是人工智能编写的"，有9%的时间给出了错误的人工智能检测结果，超过了其之前用于嗅出人工智能检测文本的工具。

OpenAI并不是第一个提出检测ChatGPT生成的文本的工具；几乎在AI聊天机器人走红之后，像GPTZero这样的网站也立即出现了，它是由一个名叫Edward Tian的学生制作的，目的是 "检测人工智能的剽窃行为"。

OpenAI在这项检测技术上真正关注的一个地方是教育。它的新闻稿说，"识别AI编写的文本一直是教育工作者的一个重要讨论点"，因为不同的学校对ChatGPT的反应是禁止或接受它。该公司表示，它正在 "与美国的教育工作者接触"，以弄清他们在课堂上从ChatGPT中看到了什么，并正在向任何参与教育的人征求反馈意见。

欢迎关注上海白日梦科技，留下您的评论和点赞吧~