普通用户玩不起的GPT-3 API，已在300多个应用中部署了

机器之心

发布于 2023-03-29 18:12:39

6580

发布于 2023-03-29 18:12:39

文章被收录于专栏：机器之心

机器之心报道

编辑：小舟、维度

江湖中没有真正的 GPT-3 模型，但已经有了 300 多种 GPT-3 加持的应用。

2020 年 6 月，OpenAI 推出了一个用于访问自家开发的新 AI 模型 GPT-3 的 API——OpenAI API。与其他大多数设计用于单一用例的 AI 系统不同，该 API 提供了一个通用的「text in, text out」界面，用户可以在任何英文任务上试用。这是 OpenAI 首个商用产品。

9 个月过去了，如今已有超过 300 个应用在使用 GPT-3，全球数万用户也在该平台上进行开发活动。目前，该平台平均每天可以生成 45 亿单词，并且仍在持续上升。

在具体实现上，用户输入短语或句子等文本提示，GPT-3 会返回可以看懂的自然语言文本补全。开发者通过向 GPT-3 展示少数示例或提示，即可对它进行「编程」。该 API 的简单易用性也使得机器学习团队实现了更高的生产效率。

右栏高亮为 GPT-3 的生成文本。

GPT-3 API 的行业应用场景

GPT-3 的应用范围涉及教育、游戏等多个领域，其中的应用程序利用了 GPT-3 的多种功能，我们来看一些具体的应用案例。

Viable 通过使用 GPT-3 来帮助行业内公司更好地了解他们的客户，并以易于理解的摘要形式从客户反馈中提供有用的信息。使用 GPT-3，Viable 可从客户调查、客服、实时聊天记录、评论等中识别主题、情感、情绪等。然后再从汇总反馈中提取见解，并在几秒钟之内提供摘要。例如：

问：什么会让用户存在不满意的结账体验？答：客户对结账流程感到不满，因为等待时间过长。客户还希望在结账时能够编辑地址，并保存多种支付方式。

Viable 的 CEO Daniel Erickson 说：GPT-3 从自然语言中识别主题并生成摘要的能力使得 Viable 让行业内公司的营销团队更好地了解客户需求，提升客户体验。

再来看一个更有趣的例子。Fable 工作室正在创建一种新型的交互式故事，并使用 GPT-3 来帮助构建故事里的虚拟人物。

曾获艾美奖虚拟角色奖，《墙壁里的狼》剧中的 Lucy 借助 GPT-3 生成的对话能够与人们进行自然的对话。Lucy 应邀参加了 2021 年圣丹斯电影节的演出，并介绍了自己的电影《Dracula》。Fable 工作室的 CEO Edward Saatchi 表示：「GPT-3 使我们能够赋予角色生命力。人工智能与艺术创作结合，能够创造出更有感染力的艺术作品。」

此外，GPT-3 还被应用于文本搜索。搜索产品公司 Algolia 将 GPT-3 用于 Algolia Answers 产品，以为用户提供闪电般快速的语义搜索。Algolia 的产品与 GTM 经理 Dustin Coates 表示：「GPT-3 使 Algolia Answers 产品能够回答比以往更复杂的查询，更深度地识别语境信息以提高搜索结果的质量，并在几秒钟内交付。」

平台改进

随着访问的扩展，OpenAI 不断地改进平台，包括实现内容过滤器以及向开发者提供新功能等，具体改进如下

回答端点（answer endpoint）：在利用 GPT-3 进行文本补全之前，为添加至提示的相关上下文搜索已有信息，如文档和知识库等。可用于与机器人有关的应用，并且无需微调；
分类端点（classification endpoint）：无需微调即可利用标注训练数据。通过搜索最接近输入查询的示例并将它们添加至提示，性能往往可以媲美 SOTA 微调模型，并提供一种易配置和调整的 AutoML 解决方案；
增强搜索端点（enhanced search endpoint）：为回答和分类端点提供基础，可以扩展至大量文档并且成本低、速度快；
安全性：在开发者进行生产前，要求他们执行速度限制、用户验证和测试等安全措施或人机回圈（human-in-the-loop）操作。此外，开发团队开发和部署了内容过滤器，用来分类安全、敏感或危险文本；
提示库（prompt library）：针对数十个用例提供启动提示（starter prompt）设计样板，如表格生成器、语言校正器以及机场代码提取器等，这样用户可以直接在 Playground 中使用它们进行编程。

语法校正器展示。

不过，作为一款商用产品，OpenAI API 已自 2020 年 10 月 1 日开始收费，且价格不菲，其中 Explore 版本前 3 个月免费试用、Create 版本 100 美元 / 月、Build 版本 400 美元 / 月，还有 Scale 版本。这样的收费标准，普通用户可能玩不起。所以，目前 OpenAI API 只适用于大规模企业用户。