AIGC行业资讯｜OpenAI正在开发一种解释LLM行为方式的工具

01

—

OpenAI正在开发一种解释LLM行为方式的工具

OpenAI 正在开发一种工具用来解释大型语言模型 (LLM) 的行为方式。

其主要功能如下：

1. 解释大型语言模型如ChatGPT的行为方式，分析其组件如GPT-2并生成自然语言解释。

2. 模拟神经元对不同输入的反应,并与实际神经元的反应进行比较,以衡量解释的准确性。

3.提高语言模型的可解释性和透明度，帮助研究人员理解模型正在学习什么和如何做出决策。

4. 帮助识别和修复模型输出中的潜在问题,如偏差或毒性。

5. 应用于GPT-2,为其所有307,200个神经元生成了解释。解释和代码已发布为数据集供进一步研究。

6. 使用GPT-4生成解释,但GPT-4往往无法准确捕捉神经元激活背后的模式或逻辑。

7. 处理可以在网络上搜索信息的模型,而不影响其核心功能，并分析为什么神经元会进行网络查询或访问某些网站。

02

—

美国快餐巨头Wendy's 引入聊天机器人服务

Wendy's 正在测试drive-through（不必下车即可得到服务的餐馆），将由Google Cloud提供支持的AI聊天机器人。

聊天机器人可以理解并响应客户的请求，即使他们使用俚语或缩写。

Wendy's 希望聊天机器人能够加快订购过程并减少错误。

聊天机器人还可以向客户推荐特价商品和追加销售商品。

Wendy's 不打算用聊天机器人取代员工，而是帮助他们专注于其他任务。

该聊天机器人将于 6 月在俄亥俄州哥伦布市的一家餐厅首次亮相。

每日AI靓图