成为AI高级用户：AI领域的成功策略

AI 高级用户能够有效地利用 AI 工具，同时了解其局限性和最佳用例。

译自 Be an AI Power User: Success Strategies in the AI Landscape，作者 Patrick McFadin。

如果你一直在关注我之前关于大型语言模型现状的文章，你可能会想，“好吧，那我们接下来该怎么办？” 好吧，系好安全带，因为我们即将深入探讨如何在不断变化的格局中成为 AI 高级用户。

正如我之前解释的那样，LLM 的能力和质量正在开始趋于平稳。它们也代表了应用开发中的一种新能力，这种能力正在实时发展和成熟。保持好奇心和学习，这样你才不会在几年后醒来，发现自己成了团队中的 COBOL 程序员。

什么是 AI 高级用户？

首先要明确：我们所说的“AI 高级用户”指的是什么。这与谁可以使用最大的模型或将最多的计算资源投入到一个问题无关。AI 高级用户能够有效地利用 AI 工具，同时了解它们的局限性和最佳用例。这关乎更聪明地工作，而不仅仅是更努力地工作。是的，这意味着学习如何使用提示，这在某些圈子里会让人翻白眼。

在你变得批判之前，回想一下你学习到 SELECT * FROM x WHERE y=0 是获取数据时需要输入的荒谬咒语。没错，让我们继续。

黄金法则：最小化 LLM 使用

现在，这里有一些可能会让你惊讶的东西：成为 AI 高级用户的关键往往是减少 LLM 的使用，而不是增加使用。我知道这听起来很违反直觉，但请听我说。当你开始使用像 ChatGPT 这样的东西时，典型的模式是将大量数据输入提示并希望得到最好的结果。除非你正在压缩文本，否则这仅仅是一种昂贵的方式来了解 LLM 的局限性。

LLM 非常强大，但它们也资源密集型且可能不可预测。这两个特征应该向任何工程师发出信号，表明我们存在边界问题——最小值和最大值。最有效的 AI 应用程序通常谨慎地使用 LLM 作为更大系统的一部分，而不是整个解决方案。将 LLM 视为 AI 食谱中的香料——少许即可，但太多就会压倒一切。

目标是为你的用例找到 LLM 使用的“金发姑娘区域”：不多不少，恰到好处。而且更重要的是：你想要准备好随着时间的推移，随着能力和成本的变化而调整这个窗口。

AI 仍然是一项快速发展的技术。使用摩尔定律策略，应用程序开发人员已经考虑了可用更多 CPU 能力的水平窗口。游戏开发人员学会了将此作为一项功能，并使用一个文字滑块来随着能力的提高而提升。当下一个突破和功能提升出现时，你是否需要重写？或者你是否能够简单地将滑块向右移动以向用户提供更多功能？

了解 LLM 的局限性：不再有魔法思维

要成为真正的 AI 高级用户，你需要了解 LLM 的局限性。我曾与一些用户合作，他们认为可以用 LLM 替代整个工作角色或复杂的分析工作。这就是我所说的“魔法思维”，这是导致 AI 项目失败的最快途径。这在每项新技术出现时都会发生，并且发生在我们建立对边界的共同理解之前。

LLM 不是可以解决你抛给它们的任何问题的魔法盒子。它们有特定的优势和劣势；了解它们对于有效地使用 LLM 至关重要。因此，让我们考虑一下边界，以及作为 AI 高级用户，你需要做什么才能在金发姑娘区域使用我们今天拥有的技术。

有效的 LLM 使用策略

鉴于 LLM 的现状和发展轨迹，我们如何才能有效地使用它们？以下是一些高级用户采用的策略：

• 人机协同方法：不要试图自动化所有事情，完全放手。有时，LLM 最有效的用途是增强人类决策，而不是完全取代它。人机协同甚至可以是你的最终用户。在一些进一步的澄清中，上下文后续有很多力量。
• LLM 工具调用：不要依赖 LLM 生成信息，而是使用它来调用正确的工具或 API。这可以显著提高准确性和可靠性。例如，如果用户问：“我上周买了什么？”LLM 可以发出一个工具调用来查询数据库，然后将响应转换为比结果集更人性化的东西。“你买了乐高套装 X！看起来很有趣。”
• 代理框架：这些可以帮助管理涉及多个 LLM 调用和其他流程的复杂工作流程。现在一些早期代理的一个有趣功能是充当反馈机制。在某些情况下，当人类可以看到响应并再次询问时，代理可以做到这一点。如果数据库查询工具调用返回空结果，代理可以重新考虑后续操作。我亲眼目睹了这一点，并认为这将随着时间的推移而得到改善。
• 关注数据质量：老话“垃圾进，垃圾出”对于 LLM 来说更加真实。高质量、干净的数据对于有效的 AI 应用至关重要。在检索增强生成 (RAG) 中，干净的数据可以发挥最大的作用。如果你避免使用 LLM 来获取知识，而专注于沟通，那么检索到的数据需要精确。在零售示例中，没有太多代码或额外样板的良好描述将改善响应。

小型专注模型的兴起

以下是另一个力量用户正在抓住的趋势：小型专注模型。虽然头条新闻可能都是关于最新的 1750 亿参数巨兽，但许多实际应用正在通过更小、更专业的模型取得成功。小型模型正在迎来自己的时刻，并提出了一些有趣的问题。LLM 需要同时具备推理和知识吗？还是我们可以将这两者分开？

以苹果的做法为例。它正在发布小型专注模型，这些模型将在移动设备上运行以执行特定任务。或者看看 Salesforce 的“Tiny Giant”项目。这些小型模型通常可以像（或比）大型通用模型一样出色地执行特定任务，而且它们以更少的计算开销来完成。它们专注于 LLM 行动的推理方面。他们不是知道“汉密尔顿”中所有歌曲的歌词，而是可以确定你在谈论音乐，并激活正确的服务。

成为房间里的“AI 成年人”

作为 AI 力量用户，你经常会发现自己扮演着房间里的“AI 成年人”的角色。这意味着有信心对糟糕的想法说不，并引导他人远离神奇的思维。这是一种对构建 AI 应用 持保守、可操作的观点。这并不意味着你可以或应该表现得像无所不知的人。

请记住，大多数用户只是在尝试弄清楚这一点。你可以通过提供清晰、实用的指导来帮助项目走向成功，并避免代价高昂的陷阱。倾听和理解应该首先引导他人取得成功。当你听到一个消除所有客户服务代表的项目时，你可以帮助将该项目引导到一个真正可以交付的东西。

AI 实施的实用步骤

那么，如何将所有这些付诸实践？以下是一些具体的步骤：

1. 从小处着手：寻找对现有应用程序的简单增强，而不是试图从头开始重建一切。你的口号应该是，“我如何才能让我的用户提高一定百分比的效率？”
2. 关注你的数据：干净、高质量的数据是任何成功的 AI 项目的基础。
3. 探索增强技术：RAG、工具调用和代理框架都是为了让你掌控全局，最大限度地减少对 LLM 的依赖。

你的第一个 AI 项目：构建一个聊天机器人

现在，这是我能给你的最重要的建议：如果你想成为 AI 力量用户，从构建和部署一个聊天机器人到生产环境开始。聊天机器人可能在此时看起来有点“Hello World”，但相信我。我在生产部分添加了部署，因为真正的学习发生在那里。构建一个聊天机器人将教会你关于以下方面的关键课程：

• 管理对话和上下文
• 集成外部数据源
• 处理边缘情况和意外输入
• 平衡模型能力和其他组件

此外，这是一个您可以立即开始的项目，并且只需要最少的资源。在生产环境之外，它是沙盒，非常适合用来试验不同的技术，并了解 LLM 在实践中的工作原理。在生产环境中，它会根据 LLM 使用的滑动量表来增加价值。

总结

成为 AI 高级用户并不意味着使用最大的模型或最新的流行技术。而是要了解整个领域，明智地使用工具，并始终关注实际的、有价值的应用，就像其他所有工程实践一样。

请记住以下要点：

1. 最小化 LLM 使用量 - 找到那个“刚刚好”的区域！
2. 了解并尊重 AI 的局限性
3. 专注于数据质量和 AI 功能的定向使用
4. 从小处着手，从实际出发 - 构建那个聊天机器人！

随着我们沿着 AI 开发的 S 形曲线前进，真正的赢家将不是那些能够使用最多 AI 的人，而是那些能够最有效地使用 AI 的人。所以，放手去做吧，自信地发布您的聊天机器人，开始您成为 AI 高级用户的旅程。未来正在等待，它需要更多 AI 成年人加入。