温馨提示:文本由机器自动转译,部分词句存在误差,以视频为准
00:00
Agent每次出试都单独修PRO,同类问题还在重复,今天必须把失败分类做成系统,谁负责?客户不关心你分几类,只关心同一类错误,别再出现。分类必须能降低客诉和流失。上周47张工单里31张是A,答错又重复,客户截图散在群里,根本查不到根因。All Phoenix和lenmi都支持轨迹评估,Promp four能做回归,外部已有成熟失败标签可直接复用,一期只做11类标签字典和修复入口,不做自动修复。先覆盖P1场景,P2抽样方案A字研全链路3个月方案B接Phoenix做观测,Lesmi跑轨计,Two回归两周,True selection和arguments错误最多,因为参数为校验,没有。
01:00
结构化标签我每次只能瞎猜的,现在bad case复盘率12%,重复错误率34%,没有基械,你们说分类有效都是感觉用户搜A阵失败排查LLM可观测性,如果公开分类字典自然流量能进开发者社区付费投放先别急,转化世界没买K上限200元,ROS低于1.5就停,先跑小预算自研三个月要45万,揭开员工具加人力,首期8万no ROI门槛6个月,剩下20万工单成本自动修复不能直接改线上PRO出事谁负责,必须人工确认,日志留痕,责任到人。第一磅Alex出标签映射第二棒BO5定接口,第三棒Alex接买点周三必须交分类字典我接受,先不做自动修复。
02:00
但客户要看得到,同类错误下降,销售承诺改成重复错误率降一半,客户路径要能一键提交back case, 自动打标签进队列,否则一线不会用分类就是废纸。我查了ls me轨迹评估文档,Planning和recovery失败,需要人工标注,不能全自动范围冻结。11类标签全上修复入口,只做P1P2抽样30%,P3至记录不修复,最终取舍放弃自研全链路换两周上线,牺牲深度定制,换来可观测和回归闭环实现路径back case键Phoenix打11类标签PRO复跑回归参数校验档arguments错误成功线重复错误率从34%降到17%,停止线两周内没降到25%就暂停复盘。把11类标签做成公开文档页,每类配修复入口,关键词覆盖后自然流量验证转化到注册。这次不投广告,没有转化数据,RAS算不出。
03:16
等分类字典上线后再跑3000元测试预算锁死8万超支必须我签字,如果6个月没省下20万,项目降级为只记录部修复红线自动修复,不得绕过人工审批。每个修复入口必须留操作日志,合同里写清责任,Owner尔清单,艾瑞管标签,Bob管接口,艾ex斯管买点,David管指标,下周一验收分类字典拍板建failure text3V11类,按P1、P2、P3分级接Phoenix和promp,不做自动修复,两周上线重复错误率降不到17%就降级。
我来说两句