OpenAI首次公开收购；谷歌开发AI生活教练；Uber推货运行业AI经纪人；LLM训练的数学；自学AI/ML；AI有多糟糕？

产业资讯

OpenAI首次公开收购 Global Illumination

OpenAI收购了一个团队，他们多年来在Facebook、Youtube和Riot等公司的早期功能方面有所贡献。这个团队将帮助改进ChatGPT。在此之前，OpenAI有几位关键产品领导人离职。

谷歌正在开发AI生活教练

Google的 AI 研究实验室DeepMind一直在测试一种能够有效将生成式 AI 转变为个人生活教练的新技术。

Uber 货运和Airbnb校友推出了一款用于货运行业的 AI 经纪人

尽管最近进行了自动化，但每年仍有超过10亿通电话用于协调美国的货运。FleetWorks通过语音合成、生成式 AI 和与传统物流系统的集成来自动化这些通话。当一批可口可乐需要送到本顿维尔的仓库时，经纪人可以使用FleetWorks来预订运输车辆、跟踪货物并安排约会。

工程研究

通过丰富的表示增强持续学习

一种名为L3DMC的新方法通过保留先前知识并更好地适应新概念来提高持续学习的性能。它通过结合不同固定曲率空间的优势并在更高维空间中操作来实现这一目标。

LLM研究中的开放挑战

由出色的Chip Huyen提出的LLM研究中的10个开放挑战。其中前两个，幻觉和上下文长度，是当今广泛讨论的话题。但最有趣的可能是多模式性、架构改进和替代GPU。很多聪明的人正在解决这些挑战，所以我们预计在近期会看到其中几个有所改进。

使用LLMs增强问题解决

这项研究介绍了Solo Performance Prompting（SPP），一种使用LLMs中的多个人物角色来模拟认知协同的方法，这是一种增强问题解决的协作过程。通过使用几个精确调整的人物角色，SPP使LLMs能够处理需要深入领域知识和复杂推理的任务。

改进计算机对图像的视觉理解

有时计算机在一张图片中会看到同一个物体多次。这个项目开发了一种方法，帮助计算机识别并聚焦在一个完整的物体版本上。

使用GPT模型增强提交消息

提交消息在软件开发中非常重要，但许多提交消息缺乏细节。这篇论文介绍了从简单生成提交消息到使用过去的提交历史完成提交消息的转变。论文引入了一个新的数据集CommitChronicle，并展示使用历史可以提高消息的质量。它强调了GPT-3.5-turbo模型的潜力，虽然不总是表现优于其他模型，但有能力生成更长、更详细的消息。

调整微型故事模型

强化学习可能是当今对齐大型语言模型（甚至视觉模型）的最佳工具。然而，当你需要大量人工数据来训练奖励模型时，这是具有挑战性的。如果你可以只是“使用提示”呢？这是另一个RLCF（计算力）的趋势的很好的例子。

LLM训练的数学

对病毒式的《Transformer数学101》文章以及基于Transformer的架构的高性能分布式训练进行了极深入的探讨。

‍

效率资源

‍

新的Conda软件包管理器Pixi

依赖管理是在Python中工作的最困难的部分之一。Conda旨在解决这个问题，但Conda中的底层软件包管理器并没有得到很多关注。Pixi是一个新的管理器，当然是用Rust编写的。