Plan→Commit：把 LLM 从“随机输出”改造成“可控提交”的生产级架构（使用侧 / 工程侧）

很多团队会把“稳定性”理解成：同一输入要得到同一段文字。但当系统进入

工具调用 + 多 agent 并行 + 程序执行

这篇文章给出一个可落地的架构方法论：

让 LLM 负责“提出候选”，让系统负责“确定性提交”。

1. 为什么“规则/约束/编排”仍然不稳定？

你可能已经做了很多“引导”：提示词规则、约束输出、zflow/工作流编排、甚至加了反思与重试。但不稳定往往仍然出现，原因通常不是某一条提示词写得不够狠，而是链路里存在多个“天然不确定源”：

结论：如果你的系统允许“自由生成→立即执行”，那么你就是把

。这不是“再加一点约束”能根治的。

2. 稳定性的重新定义：从“字面一致”到“动作等价”

在“程序执行”的语境里，我们更关心三个层级（从易到难）：

大多数业务追求的其实是 1) 与 2)。因此，正确的架构方向不是“消灭模型的不确定性”，而是

：允许它在“候选生成”阶段存在，但不允许它直接触发副作用。

3. 核心架构：Plan→Commit（提出候选 vs 确认提交）

Plan→Commit 把一次任务拆成两个阶段：

3.2 关键点：LLM 不能直接“写副作用”

你可以把 LLM 的权限限制在两类输出：

而“真的执行”由 Commit+执行器控制：参数校验、幂等键、权限检查、风控阈值、回滚策略等，都不应交给自由文本推理。

4. Canonical Intent：把“语义一致”变成可操作的数据结构

语义一致的第一步，是让系统先得到一个稳定的“意图表示”，而不是让所有 agent 直接读原始自然语言。

：用一个输出空间很小的抽取/分类步骤，产出 Canonical Intent，例如：

5. 多 agent 并行：允许分歧，但必须“确定性汇总”

并行不是问题，“不可控的合并方式”才是问题。推荐模式是：并行 agent 只产出 

，汇总器用确定规则选优/合并。

5.1 汇总器的“确定性”来自哪里？

优先用非生成式规则（或受限输出）：

如果必须用 LLM 做评审，也要把它限制成“打分+引用字段”的判定任务，而不是开放式作文。

6. 工具调用：把外部世界变成“可重放输入”

工具调用是最常见的不稳定来源（网络、数据变更、超时重试）。要实现语义一致，关键是让系统在一次任务里尽量做到：

6.1 调用日志 + 响应缓存（可回放）

6.2 工具契约（Contract）与响应校验（Validator）

为每个工具定义明确契约：参数范围、返回 schema、幂等性、可接受空值。

调用后先校验：不满足就触发补救（重试/降级/向用户确认/人工介入）。

例如：检索为空时不让模型“脑补”，而是走降级分支：扩大检索范围 / 请求更多上下文 / 进入人工确认。

7. 程序执行的底线：幂等 + 状态机 + 可补救

当系统会产生副作用（写库、改配置、发通知），你需要把执行阶段做成

，每一步都可校验、可回滚（或可补救）。

7.1 幂等与去重（建议写操作必配）

如果你要在现有系统上快速把稳定性拉起来，优先做这 6 项：

做到这一步，通常就能把“同义输入→可执行结果”收敛到高度一致；即便出现偏差，也能通过日志与回放快速定位是“意图抽取、候选汇总、工具响应、执行校验”哪一层的问题。

结语：不要消灭不确定性，而要把它工程化

LLM 天生是“在分布上搜索候选”的系统。你很难把它改造成完全确定的函数，但你可以把它变成一个

让它提出候选，让系统确定性提交，让执行可校验、可回放、可补救。

如果你正在做 Agent / 工具编排系统，不妨从今天开始问一句：

“我的副作用是由自由文本直接触发的吗？”

如果答案是“是”，那 Plan→Commit 往往就是最值得优先引入的稳定性骨架。

很多团队会把“稳定性”理解成：同一输入要得到同一段文字。但当系统进入工具调用 + 多 agent 并行 + 程序执行阶段，真正需要的是：

很多团队会把“稳定性”理解成：同一输入要得到同一段文字。但当系统进入工具调用 + 多 agent 并行 + 程序执行阶段，真正需要的是：语义一致和可执行稳定。

人工智能

架构设计

后端

Plan→Commit架构将LLM从随机输出改造为可控提交的生产级系统，通过两阶段设计（提案+确定性提交）确保语义一致性与执行稳定性。该方案适用于Agent/工具调用场景，强调结构化计划、可校验候选、幂等执行与回放机制，有效解决多Agent并行、外部工具波动等不确定性问题，实现业务级可靠输出。

数据结构

智能体

Agent

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

Plan→Commit：把 LLM 从“随机输出”改造成“可控提交”的生产级架构（使用侧 / 工程侧）

Plan→Commit：把 LLM 从“随机输出”改造成“可控提交”的生产级架构（使用侧 / 工程侧）

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐