做场景级 Agent,一个常见的坑是:所有东西都写在提示词里。系统提示词写了三千字、工具说明塞了两百行、规则用自然语言描述了一遍。结果是:改一条限额要改提示词、加一个工具要重测全部用例、出了问题定位不到是哪一层。
分层不是为了优雅,是为了可改。
# L1 提示词层:它是什么、边界在哪 system: role: "费用报销单据审核助手" scope: "仅处理单据要素校验、限额校验、异常标记" out_of_scope: "不做审批决策、不做付款执行、不做个人绩效评价" output_contract: "必须返回结构化 Flag,含 code/severity/evidence/needs_human" # L2 工具层:它能做什么 tools: - {name: verify_invoice, desc: "查验发票真伪与要素一致性"} - {name: check_limits, desc: "按限额表校验费用标准"} - {name: write_back, desc: "回写审核结论"} # L3 知识层:它依据什么 knowledge: partitions: ["财务与税务/费用报销/单据审核"] sources: [差旅标准表(可配置), 报销制度库(只读)] citation_required: true # L4 策略层:什么情况怎么办 policy: rules: - {when: "命中 high 级异常", then: "to_human"} - {when: "软判断置信度 < 0.75", then: "to_human"} - {when: "超出 scope", then: "return_and_notify"} thresholds: 住宿费限额: {from: "limits_table", dynamic: true}
L1 只放不变的部分。 角色、边界、输出契约——这些一年可能改一次。放在这里可以稳定缓存,也方便做回归测试的基线。
L2 工具描述必须短且准。 工具描述是给模型看的,写长了会稀释注意力。详细逻辑放工具实现里,描述只说"这个工具干什么、返回什么"。
L3 知识与提示词分离是关键。 制度、限额、政策这些会变的东西,全在知识层。提示词里一旦写死了限额,限额一改就要重测全部用例。
L4 策略集中管理。 所有"什么情况转人工"的规则在一个地方。散落在各处的结果是:没有人能回答"这个场景到底在什么情况下会转人工"。
1、变更影响可预测。
CHANGE_IMPACT = { "L1_提示词": ["全部用例", "评估基线需重跑"], "L2_工具": ["该工具相关用例", "工具契约测试"], "L3_知识": ["该分区相关用例"], # 范围最小 "L4_策略": ["策略相关用例", "转人工率监控"], }
改知识(最频繁)的影响面最小。这正是我们想要的——最常变的东西要放在影响面最小的地方。
2、可独立测试。
def test_l4_policy(): """策略层可以脱离模型单独测""" for case in POLICY_CASES: result = policy_engine.evaluate(case) assert result.action == case.expected_action def test_l2_tool_contract(): """工具契约测试:入参、出参、错误行为""" for t in TOOLS: spec = TOOL_SPEC[t.name] assert set(t.input_schema) == set(spec.required_inputs)
策略层和工具层不依赖大模型,可以像普通代码一样做单元测试。这部分能覆盖的用例比例,通常比端到端测试高一个量级。
3、可观测性清晰。
def trace_step(session, layer, name, detail): log({ "scene": session.scene_id, "layer": layer, # 定位到层 "step": name, "detail": detail, })
出问题时,先看是 L3 的知识没召回、L2 的工具返回错了,还是 L4 的策略判错了。分层的直接价值就是排障时不用猜。
把策略写成自然语言放进提示词。
比如在提示词里写"如果情况比较复杂就转人工"。"比较复杂"是什么?模型每次理解都不一样。
策略必须可执行、可测试、可枚举。 阈值是配置,条件是代码。
第一版把 L1 写好。 边界和输出契约是最容易漏、后果最严重的部分。
第二版补 L4。 策略层独立出来后,转人工逻辑才可控可调。
第三版做 L2/L3 分离。 这需要知识已经积累到一定量、变更频率明显上升时才有意义。
不要一开始就追求四层完美。 先把 L1 和 L4 做对,收益已经占大头。
——以上为《智能体建设地图》的第三方解读。该地图由 CXOU® AI 研究院出品、,是一份持续更新的企业智能体落地图谱。数智化转型网将持续以独立视角解读其中的重点场景与共性规律。如需查看完整地图、可关注 CXOUNION 官方渠道、。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。