

摘要:企业级 Agent 落地到第 3 年,真正的瓶颈已经不是"模型够不够聪明",而是"人的注意力够不够用"。IBM 2026 年的企业 AI 研究给出的比例是 128 个 AI Agent 对应 1 个人类员工,并预计大型企业年底将运行 1,600 个以上 Agent。在这个比例下,Human-in-the-loop(人机回环)如果还停留在"每条结果都要人点一下确认",系统必然崩在人的带宽上。本文提出一个不同的建模方式:把 P2A(Person-to-Agent)协作从"交互设计问题"重新定义为"规则收敛问题"。以会计凭证自动化为贯穿实例,给出一个可执行、可度量、可回退的四阶演进模型(L0 人工 → L1 规则固化 → L2 例外驱动 → L3 监督自治 → L4 完全自动化),并把"AI 总结形成待办""批量交互拓扑""多 Agent 角色分离""收敛指标"四件事放进同一套工程框架。核心主张只有一句:人的每一次介入,必须产出"规则增量"而不是"数据修补";否则人工介入率永远不会下降。
事实一:Agent 数量对人类数量已经失衡。 IBM 2026 年的企业 AI 研究给出的现状比例约为 128:1,预计年底大型企业将运行 1,600 个以上 Agent;Gravitee 2026 年 4 月对 750 位技术负责人的调研显示,Agent 资产规模已经远超配套的治理人力。**"多 Agent 协作"这件事的真正难点,不是 Agent 之间怎么通信,而是 Agent 群体产生的工作量,人类消化不了。**
事实二:靠加人解决不了。 MLflow 的 HITL 实践文章把这个账算得很清楚:如果 Agent 调用量涨 10 倍而"触碰率(touch rate)"不变,你就需要 10 倍的审核人力——而审核人力的招聘速度永远追不上。结论是:HITL 的可扩展性只能来自"有策略地降低触碰率",不能来自"雇更多人"。
事实三:逐条确认的交互形态在生产环境里不可用。 一批 3,000 行的银行流水,如果产生 300 条无法自动分类的记录,逐条弹确认框意味着 300 次人机往返。按每次 20 秒计算就是 100 分钟——而会计一个月的凭证工作量可能有几十批。
矛盾 | 表现 | 后果 |
|---|---|---|
吞吐 vs 逐条确认 | 数据量线性增长,确认次数也线性增长 | 系统吞吐被人力上限锁死 |
数据修补 vs 逻辑演进 | 人把这一条改对了,下一批同类数据照样错 | 人工介入率 ρ 恒定不降,永远收敛不了 |
待办爆炸 vs 注意力稀缺 | 每条异常生成一个待办,待办列表变成垃圾场 | 人开始无差别跳过,监督失效 |
第三条尤其隐蔽。Google 2026 年在编码 Agent 上观察到的"Agent 分心(agent distraction)"现象就是一个镜像:当 TODO 列表里堆满过期、低价值条目时,Agent 会去处理错误的东西。人其实一样——待办列表一旦失去信噪比,人就会进入"批量点通过"的模式,监督名义上存在、实质上是零。
所以我们把问题从交互层抬到数据层:
P2A 协作的效率瓶颈,本质上是"规则库对数据的覆盖率"问题,而不是"对话交互设计"问题。 人工介入率 ρ = 需要人工决策的条目数 / 总条目数。 只要能持续把"人工决策"沉淀为"可执行规则",ρ 就会单调下降; 只要沉淀不下来,ρ 就永远不会下降——无论交互界面做得多顺滑。
这个重新定义带来一个非常锋利的工程判据:任何一次 HUMAN 交互,如果它的产物是"一条改对的数据",那它就是负债;如果它的产物是"一条可以作用于未来所有同类数据的规则",那它就是资产。
"以数据为中心 + 规则固化 + 人工修正 + 再固化"这条路不是凭空发明的。它至少有六个成熟的理论支点。
Sumit Gulwani 2011 年的 FlashFill 是这个方向的原点:用户给一两个输入-输出示例,系统合成一个字符串变换程序。商业上它在 Excel 2013 里落地,成为终端用户编程的里程碑。其工程思想有三点直接可迁移到凭证自动化:
FlashFill / PROSE 的做法 | 凭证自动化的对应物 |
|---|---|
把搜索空间限制在领域特定语言(DSL)里,而不是通用编程语言 | 把规则限制在"科目映射 + 关键词分类 + 辅助核算绑定 + 税额拆分"这套凭证 DSL 里 |
用 witness function(见证函数)做自顶向下剪枝,避免盲枚举 | 用"借贷平衡""科目存在性""辅助核算非空"作为剪枝约束,先排除不可能的规则 |
用 MDL(最小描述长度)排序候选程序,短者优先 | 规则排序偏好"更短、更通用、可读"的那条,而不是过拟合的特例规则 |
PROSE 后来在 PowerShell、Azure SQL、数字格式化等产品里企业级部署——说明"从示例归纳规则"在结构化数据处理场景是被验证过的工程路径,不是学术玩具。
更近的证据是 2026 年 CHI 的 DataSpeck:一个面向"数据转换工作流"的人机回环自动化系统。它研究的问题和本文完全同构——人怎样在少量的修正中,让系统把数据转换规则学会。
主动学习的核心结论是:不是所有样本都值得标注。按不确定度、代表性、信息增益挑样本,可以用远少于全量的标注达到同等精度。
映射到 P2A:不是所有异常都值得生成待办。应该优先把"会影响最多未来数据"的那一类异常推到人面前。这条原则直接支撑第五节的"待办聚类"。
自动化分级从 Parasuraman 等人的经典框架,一直演进到 2026 年 CSA 发布的《Agentic AI Autonomy Levels and Control Framework》:L4 是"高自治,人类从审批转向监控与例外处理"。另一条并行的研究线("Beyond Automation Levels",2026)进一步把自动化拆成信息分析、决策、执行三个维度各自分级,并指出 manned–unmanned teaming 的关键不是"整体给几级",而是每个维度分别该给几级。
这个拆法对凭证自动化极其有用:
维度 | 凭证场景 | 分级建议 |
|---|---|---|
信息分析 | 从流水/单据里抽取金额、科目、往来单位 | L4(高度自动化,抽取错误由下游校验兜底) |
决策 | 借贷科目选择、辅助核算归属 | L2–L3(需要规则 + 例外人工) |
执行 | 写凭证、导模板、推送总账 | L3(平衡校验 + 抽样审计后自动执行) |
"自动化程度"不是全局开关,而是按维度拧的旋钮。 这是很多"要么全自动、要么全人工"的产品设计最容易犯的错。
Horvitz 1999 年的 12 条 mixed-initiative 原则,在 2026 年依然被当作 Agent 交互设计的基础坐标——近年论文明确说它和 Amershi 2019 的 18 条 Human-AI Interaction Guidelines 一起"塑造了 AI 系统设计",只是当年面向的是推荐、搜索这类有界离散任务,而今天的 Agent 带来了"长时程、持续交互"的新问题(2026 年《Design Principles for Human-Agent Interaction》正是在补这个缺口)。
其中三条对我们最关键:
2026 年多篇生产实践文章提出同一个结构:异常处理不是一条路径,而是两条。
一条路径处理这笔具体交易(增强人工审核); 另一条路径记录异常模式,回流给负责 Agent 配置的团队——因为反复出现的异常是信号,说明 Agent 的任务边界、训练数据或置信度架构需要调整。
这句话几乎就是本文第三节"规则收敛循环"的工程版表述。同类实践还有 GMP 领域的 batch record review by exception:审核员只看"破坏规则的条目",而不是看每一行;多个 Agent 先把全量数据按主批次记录和 GDP 规则读一遍,只把被标记的页面交给人。这就是"例外驱动"在强监管行业的落地证明。
近两年的研究在回答一个更本质的问题:人工修正怎么变成系统的长期能力,而不是一次性的提示词。
这给我们一个非常重要的分层:修正要存两份——原始案例(可审计、可回放)+ 蒸馏规则(可执行、可复用)。只存一份都不够。
定义:
D:待处理数据集(如一批银行流水 / 一批报销单)R_k:第 k 轮的规则库(科目映射、关键词分类、辅助核算、税额拆分、校验约束)f:执行器,Ŷ_k = f(D, R_k)H:人工判定(oracle),返回每条记录的正确结果或"同意"Δ_k = { i ∈ D | H(Ŷ_k[i]) ≠ Ŷ_k[i] }:差异集E_k:与 Δ_k 配套的证据(原始字段、上下文、历史相似案例)Induce:归纳器,从差异 + 证据里产出规则增量ρ_k = |Δ_k| / |D|:人工介入率循环:
R_{k+1} = R_k ⊕ Induce(Δ_k, E_k)收敛目标:ρ_k → 0,且 R_{k+1} 在回归集 D_reg 上不产生回退。
条件一:修正必须是规则级,不是数据级。
这是整个模型能否收敛的生死线。如果 Induce 的输出是"把这 37 行的科目从 6602 改成 6601",那么 R 没有变化,下一批同样的数据仍然会错,ρ_{k+1} = ρ_k。只有输出"对方户名匹配 *联通* 且摘要含'回款' → 科目 1122 应收账款",才有 ρ_{k+1} < ρ_k。
工程上的实现方式是把修正在 UI 上强制包装成"提议-确认":人不直接在表格里改值,而是接受/修改一条候选规则,系统再用这条规则重跑全量并展示影响面(新增 N 笔改动、M 笔回退)。这一步叫 rule-delta confirmation。
条件二:必须守回归集。
规则一旦泛化,就可能把原来对的改错。所以每轮必须保留一个 D_reg——过去已确认正确的样本集合,任何规则增量先在 D_reg 上跑一遍,回退数超阈值就拒绝或降级为"仅本轮生效的局部例外"。
条件三:修正要分级,不是所有修正都能变成规则。
修正类型 | 例子 | 处理方式 |
|---|---|---|
值修正 | 这一笔金额录错了 | 只改数据,不入规则库 |
规则修正 | 这一类应该归到另一个科目 | 进入 R,走 rule-delta confirmation |
规则模板修正 | 这类规则本身的结构要变(比如从"关键词匹配"升级为"主数据匹配") | 进入 R 的 schema 层,需人审批 + 版本化 |
新增能力 | 出现了全新业务(如跨境支付) | 不硬塞规则,标记为"未覆盖场景",进产品 backlog |
很多团队失败在于:把四类混在一起,全都当成"一条数据改一下"。结果规则库三年没长,人越用越累。
设规则覆盖的数据比例为 C_k(coverage),则 ρ_k ≈ 1 - C_k(假设覆盖率之外的部分全需人工)。所以降 ρ 等价于升 C。而 C 的提升只有两个来源:
第 2 条是前期主力,第 1 条是后期长尾。这就解释了实践中 ρ 的典型曲线:先陡降,后长尾——长尾阶段不能指望"再来一轮修正",要靠规则模板化(把一批相似规则抽象成一个可参数化的模式)和主数据治理(把"对方户名"这种脏字段变成受控的供应商编码)。
以"凭证引擎"(voucher-fill-scene)为例,业务目标是:把有成报销单/借款单/付款单/申请单 + 银行流水(贷方收入)+ 开票明细,按"审批完成且支付完成 + 支付账户对应公司"的规则,生成记账凭证分录(科目代码/名称 + 客户/供应商/职员/项目/职场辅助核算),做借贷平衡校验后填充凭证导入模板,并落库审计。
现有流程的节点序列已经包含了收敛循环所需的大部分骨架:
意图歧义消解 → 上传源数据/凭证模板 → 解析 → 字段映射 → 科目与辅助核算 → 借贷平衡校验 → 审计 → 人工确认 → 生成报告
↑ │
└────────── 人工要求调整分类,回流重新生成 ──────────┘关键发现:现有流程已经有一条"人工确认 → 回流重新分类"的边(humanConfirmed == false 时回到分类节点)。这条边是对的,但它只完成了循环的一半——它让人"这次改对了",却没有让系统"下次不用改"。
缺的那一半是:**humanModifications 必须被归纳成规则增量,写回规则库并打版本**。这是从 L2 走向 L3 的唯一通道。
凭证自动化最容易被做成"一个大模型直接输出凭证"。这条路在合规场景不可行,因为不可审计、不可回归、不可解释。正确的做法是把规则分层,每一层尽量用确定性代码固化,只在真正需要语义理解的地方用 LLM:
层 | 内容 | 实现方式 | 稳定性 |
|---|---|---|---|
L-a 字段映射 | 源表列名 → 标准字段(记账日期/借方/贷方/对方户名) | 确定性映射表 | 极高 |
L-b 值归一 | 对方户名 → 供应商/客户主数据编码;账户 → 银行账户档案 | 主数据匹配 + 模糊匹配兜底 | 高 |
L-c 语义分类 | 摘要 + 户名 → 费用类型(工资/社保/税金/服务费/联通回款/贷款还款/手续费/见习补助…) | 关键词规则优先,LLM 兜底 | 中 |
L-d 分录合成 | 借贷科目 + 辅助核算(客户/供应商/职员/项目/职场)+ 税额拆分 | 规则引擎(DSL) | 高 |
L-e 校验约束 | 借贷平衡、期间合法、税率匹配、辅助核算非空、重复凭证检测 | 硬断言 | 极高 |
这个分层带来三个直接好处:
阶段 | 机器做什么 | 人做什么 | 交互形态 | 产出物 | 退出判据 |
|---|---|---|---|---|---|
L0 手工 | 无 | 全部手工记账 | 无 | 凭证 | — |
L1 规则固化 | 跑首批规则(L-a/L-b/L-d 基本可确定部分),全量生成 | 逐笔对照"手工基线 vs 机器结果",指出错在哪 | 逐条 diff 对比 | ① 首批规则库 ② 差异报告 ③ 差异分类标签 | 机器结果与手工基线的差异已完成归类 |
L2 例外驱动 | 只对"规则未覆盖/置信度低"的部分生成待办,其余静默通过 | 处理例外簇,确认或修改候选规则 | 按簇确认 + 规则确认 | 规则增量 + 回归集 | ρ 连续多批下降,回归率低于阈值 |
L3 监督自治 | 全量自动执行 + 事后审计 Agent 复核 | 抽样审计 + 规则变更审批 | 例外外置 + diff 审批 | 审计报告 + 规则版本 | ρ 稳定低位,审计发现率低于阈值 |
L4 完全自动化 | 全自动,仅异常/漂移时告警 | 只处理新场景、新供应商、政策变更 | 告警驱动 | 规则模板 + 监控 | — |
注意 L1 的设计意图:它不是"先上一版自动化",而是建立基线。没有"人做的正确结果"作为对照,后面所有"差异"都无从定义。很多团队跳过 L1 直接上 L2,结果连"什么算错"都说不清。
假设某月的流水有 2,400 行,L1 首轮机器分类后的差异分布:
差异簇 | 行数 | 归因 | 人的决策 | 规则增量 |
|---|---|---|---|---|
对方户名含"中国联合网络通信"但未分类 | 37 | 知识缺失(K) | 归入"联通回款"→ 科目 1122 | 新增关键词规则 *联通* → 1122 |
"承德"相关服务费被归到"其他" | 12 | 规则缺失(K) | 归入"承德服务费"→ 6602 | 新增地区+关键词复合规则 |
同一笔付款在两张凭证里重复出现 | 5 | 数据质量(Q) | 确认重复,删一条 | 不入规则,进入去重校验增强 |
新出现的"跨境支付手续费" | 3 | 真新业务(N) | 人工判断科目 | 标记未覆盖场景,进 backlog |
金额 > 50 万的往来款 | 2 | 高金额风险 | 逐笔人工核 | 不降级自动化,保留强制人工 |
合计 | 59 | — | — | 3 条规则增量 + 1 条校验增强 |
关键数字:59 条异常 → 4 个决策 → 49 行由 2 条规则一次性覆盖。 下一批同类数据,这 49 行的介入成本降为 0。这就是 ρ 下降的物理机制。
而如果按"逐条确认"来做:59 次交互,R 不变,下一批还是 59 次。
这是很多人做错的一步。直觉做法是"有异常就建待办",结果是待办列表变成异常列表的镜像——人的注意力被彻底打散。
正确的待办不是"异常的容器",而是**"决策的最小单元"**。
异常集合 Δ
│
├─ ① 聚类(Cluster) 按"会让同一条规则失效"的共同特征分组
│
├─ ② 归因(Attribute) K 知识缺失 / C 规则冲突 / Q 数据质量 / N 真新业务
│
├─ ③ 提议(Propose) 给出候选规则 + 影响面(N 笔 / M 元 / 占比 / 行号)
│
└─ ④ 证据包(Evidence) 3 条代表样本 + 1 条反例 + 置信度 + 可撤销性
↓
一个待办(一次决策)聚类的键怎么选,决定了待办的质量。实践中有效的键是"规则作用域":
聚类键 | 例子 | 为什么这样分 |
|---|---|---|
同一目标字段 + 同一取值缺失 | 37 行"项目分类"为空 | 一条规则可全覆盖 |
同一实体未匹配主数据 | 8 个户名不在供应商档案 | 一次主数据补录解决 |
同一规则冲突 | 规则 A 与规则 B 对同一行给出不同科目 | 需要人裁决优先级 |
同一金额区间 + 同一方向 | 5 笔 > 50 万借方 | 风险策略不同,必须单独审 |
同一"未知模式" | 新出现的摘要写法 | 需要人判断是不是新业务 |
Shadow 2026 年的文章把这套思路总结成一条流水线:
proposed output → evidence packet → risk route → named reviewer or check → decision → receipt"不要让人重读所有内容。让他们检查最小的、可能改变决策的证据。"
这句话应该刻在每个做 HITL 的团队墙上。一个合格的凭证待办证据包至少包含:
最后一条不是体验优化,是决策成本的结构性降低。Horvitz 的原则 7 说的就是这个:猜错的代价越低,人越愿意做决策;代价越高,人越倾向于不决策(或者把决策往上推)。
设异常行数 n,聚类簇数 c,则理想待办数 ≈ c(加上强制人工的高风险条目 h)。
|Todos| ≈ c + h,而 c ≪ n。
在 4.4 的例子里:n = 59,c = 4,h = 2,|Todos| = 6。同一个人可以在 10 分钟内处理完,而不是 20 分钟 × 59 次。
待办列表的好坏,用"待办数 / 异常数"这个比值衡量。 比值接近 1,说明系统只是把工作搬了个位置;比值接近 0,说明系统真的在做归纳。
有了好的待办,还要选对交互拓扑。下面是五种在实践中被验证的形态,它们不是"选项菜单",而是按风险路由的结果。
拓扑 | 形态 | 一次决策覆盖 | 适用 | 风险 |
|---|---|---|---|---|
① 逐条确认 per-item | 一条一条看 | 1 行 | 高金额、跨期、关联方、不可逆 | 成本最高 |
② 按簇确认 per-cluster | 看簇摘要 + 样本,整簇通过 | N 行 | 中等不确定性、同质性强 | 中 |
③ 按规则确认 per-rule | 确认/修改候选规则,系统重跑全量 | N 行 × 未来所有同类 | 主力通道 | 中(需回归集) |
④ 差异审批 diff-approve | 只看"规则变更前后"的增量差异 | 本次规则变更的全部影响 | 规则版本升级 | 低(可视) |
⑤ 例外外置 exception-only | 正常不打扰,ρ 超阈值才拉起 | 全批 | L3/L4 监督态 | 低(需审计兜底) |
很多系统按"每页 20 条"分页让人确认——这是以 UI 为中心的分页,不是以风险为中心的分页。正确的路由维度是:
不可逆性 × 金额量级 × 不确定性(置信度)不可逆 | 金额 | 置信度 | 路由 |
|---|---|---|---|
高(直接入总账、无法冲销) | 大 | 任意 | ① 逐条确认 |
低(生成草稿、可回滚) | 中 | 低 | ② 按簇确认 |
低 | 任意 | 中 | ③ 按规则确认 |
— | — | 规则变更本身 | ④ 差异审批 |
低 | 任意 | 高 | ⑤ 例外外置(静默通过 + 抽样) |
这套路由直接对应 2026 年 CSA 自治分级框架里"按风险设定自治上限"的做法,也对应 Horvitz 的效用权衡。
机制一:撤销与快照。 批量操作必须配"一键回滚到本批处理前"。没有这个,人不敢批量确认——所有批量交互最终都会退化成逐条确认。
机制二:推送节奏控制(pull vs push)。 "待办找人"比"人找待办"高效,但过度推送会制造新的注意力噪音。经验阈值:单个用户的待办队列长度超过 ~15 条时,应该自动聚合为"summary 待办",而不是继续追加。这正是 Google 观察到的"Agent 被 TODO 债务拖垮"的镜像问题。
Anthropic 在《Building Effective AI Agents》里把编排模式收敛成几种:prompt chaining、routing、parallelization、orchestrator-workers、evaluator-optimizer。其中 evaluator-optimizer 的核心洞察值得单独引用:生成和评估是两种不同的认知任务,分开才能各自专精——生成者专注于产出,评估者专注于一致地应用质量标准。
在凭证收敛循环里,我们对应出四个角色 + 一个人:
角色 | 职责 | 对应模式 |
|---|---|---|
Executor(执行者) | 按规则库生成凭证分录 | — |
Auditor(审计者) | 独立视角复核结果(借贷平衡、科目合理性、辅助核算完整性、异常金额) | evaluator-optimizer 的 evaluator |
Inducer(归纳者) | 读差异集 + 证据,产出候选规则增量 + 影响面估算 | — |
Orchestrator(编排者) | 聚类、排优先级、生成待办、选择交互拓扑、控制节奏 | orchestrator-workers |
Human(裁决者) | 只对"规则增量"做决策 | oracle |
最关键的一条纪律:Inducer 必须与 Executor 分离。 如果让同一个 Agent 既生成结果又总结"我为什么错",它会系统性地把自己的偏差合理化,产出的规则会强化错误而不是修正错误。这和 OpenCodeReview 2026 提出的"用确定性规则否决不确定输出"是同一类思路——用独立视角做否决,比用同一视角做自我反省可靠。
多 Agent 协作里最容易模糊的是:什么该走机器通道,什么必须走人。
通道 | 传什么 | 不传什么 |
|---|---|---|
A2A(Agent-to-Agent) | 任务、产物、状态、引用(VFS 路径)、结构化错误 | 决策依据、责任归属、不可逆动作 |
P2A(Person-to-Agent) | 决策、规则增量、否决、授权、例外裁决 | 全量数据(给证据包即可) |
一条硬规则:A2A 不允许无头推进"需要人担责"的节点。 在月结/A2A 的实践里我们明确划了这条线——A2A 只做"启动 + 状态回填",HUMAN 门必须由人过,否则会出现"责任真空":流程走完了,但没有人对结果负责。
要把 P2A 做成工程而不是聊天,每个待办背后必须是一个结构化决策对象。最小集:
{
"decisionId": "d-202611-0031",
"clusterKey": "supplier_unmatched:中国联合网络通信*",
"kind": "RULE_DELTA", // 值修正 / 规则修正 / 模板修正 / 新能力
"proposal": {
"rule": "对方户名 ~ '*联通*' AND 摘要 ~ '*回款*' -> 科目 1122",
"layer": "L-c"
},
"evidence": {
"samples": ["row#1182", "row#2077", "row#2333"],
"counterExample": "row#1904",
"matchedRule": null,
"reason": "NO_RULE_MATCH"
},
"impact": { "rows": 37, "amount": 1284300.00, "ratio": 0.0154 },
"confidence": 0.72,
"reversibility": { "undoable": true, "snapshotId": "snap-1120-03" },
"regression": { "checked": true, "regressed": 0 }
}有了这个对象,"批量交互"才可能实现——因为批量 = 对同一类决策对象的一次集体裁决,而不是"勾选一堆行然后点确定"。后者没有语义,前者可以回溯、可以版本化、可以复用到下一批。
"趋于完全自动化"如果不可度量,就只是一句愿景。建议用下面这组指标把它变成可观测的曲线。
指标 | 定义 | 目标方向 |
|---|---|---|
ρ 人工介入率 | 需人工决策的条目 / 总条目 | ↓ 单调下降 |
T_touch 单次决策耗时 | 从打开待办到提交决策的中位时长 | ↓ |
C 规则覆盖率 | 被规则自动处理且通过审计的条目 / 总条目 | ↑ |
Escalation 升级率 | 被提升为逐条确认的比例 | ↓(但不为 0) |
Regression 回归率 | 规则增量导致已正确样本变错的比例 | ≈ 0 |
Audit Find 审计发现率 | 抽样审计发现真实错误的比例 | ↓ |
Rule Debt 规则债 | 未沉淀的重复修正模式数量 | → 0 |
Rule Debt 是本文建议新增的指标:同一类修正如果连续 3 批都靠人工,就记 1 条"规则债"。它是"人工介入率降不下来"的先行指标——ρ 可能因为批次变小而看起来在降,但规则债在涨,说明系统其实没在学习。
ρ
1.0 ┤■■■
│ ■■■
0.6 ┤ ■■■
│ ■■■■
0.3 ┤ ■■■■■■■
│ ■■■■■■■■■■■■■■■■■
0.1 ┤ ■■■■■■■■■■■■■■■■■■■■■
└──────────────────────────────────────────────────────────→ 批次
L1 建立基线 L2 陡降期 L3 长尾期接受"ρ 不为 0"是成熟标志。 强行追求 0 会导致规则过拟合和隐藏错误,比留 2% 人工更危险。
自动化程度必须可降级:
这三条让"自动化"成为一个带反馈的闭环,而不是一次性上线后失控的开关。
按危害排序,每条都对应一个具体的失败机制。
# | 反模式 | 为什么错 | 正确做法 |
|---|---|---|---|
1 | 修正停在数据层 | 下一批同类数据照样错,ρ 不降 | 强制 rule-delta confirmation |
2 | 待办 = 异常列表 | 待办数 ≈ 异常数,注意力被打散 | 聚类后一个簇一个待办 |
3 | 按分页做批量确认 | 无语义的批量,无法回溯与复用 | 按"规则作用域"分组 |
4 | 执行者与归纳者是同一个 Agent | 自我合理化,错误被强化 | 角色分离 + 独立视角否决 |
5 | 没有回归集 | 规则泛化后静默改坏已正确的数据 | 每轮必跑 D_reg |
6 | 追求 ρ = 0 | 规则过拟合,隐藏错误比显性人工更危险 | 允许 2–5% 永久人工 |
7 | A2A 无头推进 HUMAN 门 | 责任真空,出问题无人担责 | A2A 只做启动+状态回填 |
8 | 只存规则不存案例 | 无法审计、无法回放、无法再归纳 | 情景记忆 + 语义记忆双层 |
交互做得再顺滑,如果人的每次介入不改变系统的处理逻辑,人工介入率就不会下降。衡量 P2A 系统好坏的第一指标是 ρ 的下降斜率,不是对话轮次或满意度。
这是全篇最硬的一条。值修正、规则修正、模板修正、新增能力——四类修正要走不同的沉淀通道,但**都不能停留在"这条数据改对了"**。只改数据的交互,是给系统记账,不是给系统学习。
待办数应当约等于"聚类簇数 + 强制人工项",远小于异常行数。用 待办数 / 异常数 这个比值可以直接诊断系统是在"归纳"还是在"搬运"。
不可逆性 × 金额 × 置信度 决定交互拓扑(逐条 / 按簇 / 按规则 / 差异审批 / 例外外置)。批量操作必须配撤销与快照,否则会退化。
用 ρ、Coverage、Regression、Rule Debt 组成收敛曲线;用"ρ 回升 / 审计发现率突增 / 分布漂移"三个信号触发自动降级。**"趋于完全自动化"是一个受控的收敛过程,不是一个可以被声明的状态。**
在 Agent 数量远超人类的时代,人机协作的效率不取决于 Agent 多聪明,也不取决于界面多顺手, 而取决于系统能不能把人做的每一次判断,压缩成一条可以作用于未来的规则。 做到这一点,人工介入率会自己往下走;做不到,再多的 Agent 也只是把工作量换了个地方堆放。
人机协作与注意力瓶颈
规则归纳与数据转换
自动化分级与交互原则
多 Agent 编排与规则内化
行业实践参照
© 2026 ooderAgent · 财务域 Agent 工程实践系列
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。