Agent渡劫48关-第16关-为什么召回正确文档以后还需要Rerank？原创

今天指定一件事，召回和金牌拆成两段，召回负责不漏，金牌负责把真正相关的排到前面，谁负责？客户不关心你有几个模型，他只问文档里明明有答案，你为什么答错？一句话价值是先答的对再谈快。上周64张工单，41张答非所问，我抽了12条文档全都召回到了，却排在第17位。客户根本看不到Co here elastic is的公开资料指向同一结论，单阶段向量召回不够，金牌要用cross in code的交叉打分，一期只做两阶段检索，加一套评测集，微调模型，多模态知识图谱一律不做，目标模糊就开工，我不签字。A向量召回top k=50 cross in codeder重排取top m8。

B混合召回加大模型重台准弹延迟翻倍，Crossing codeder逐对打分50个候选就是50次，前项加到200，延迟破2秒，超时重试部分成功怎么算？先别谈提升当前机限引用命中率57%，Nd cg at8是0.41，没有这两个数，谁说效果更好我都不认。社区里用户搜的是长尾问句，不是关键词。召回曾要识别搜索意图，金牌后决定答案页结构，不然流量留不住。这次我建议不同转化事件还没买tag算不出来，付费买进来一批问不出答案的用户，只会把工单堆更高重排一次多少钱？按50候选每天2万次问答算GP优越成本我要看数字，回收期超9个月我不批，先把最坏。

情况想清楚仲裁模型能不能碰客户私有文档合同里绝不能写百分百答对，谁最有动力绕我销售下一棒艾exx出众牌服务接口David文初评测集艾Y动范围周五评审谁不教我就在决策日志上记名听完成本和延迟我把价值收窄，只承诺答得对，不承诺答得快。多模泰砍掉仲牌必须上，销售话术我来改，光有指标不够灰度两天我要看工单里答非所问的占比从64%降到多少，客户找不到答案那一刻才算失败，补一个，反正embing是各自编码，Cross in codeder是成对打分两回事，候选少于20，重排再好也是五米下锅。范围冻结一期做两阶段检索，评侧级降级开。

宽不做微调，验收标准改成NDCG8提升不再写模糊的准确率，最终tradeoff牺牲P99延迟100ms，换top end=8的相关性大模型重排，这期不上等延迟预算3倍再说实现路径top k=50批量并发打分结果缓存5分钟重排超时降级回向量排序部分成功按位次补齐，不阻塞成功线NDCGF8从0.41~0.48引用命中率到75%，P95<800ms，命中率只涨3个点就回退，金牌跑通后把高频问句做成结构化答案页，S蒂ma标清楚，让搜索引擎直接转收录数和点击率就是验证指标买点两周内上线我投5000块测场尾词T上线120，超了就停。

归因指认注册到提问这条转化事件预算线，仲台服务月不超过8000评测及一次性一万二三个月后单位问答成本降不到三成就降级成按需处罚，私有文档不进第三方重排接口模型权重自托管日志留痕6个月这三条写进合同合规门槛就算过了红线不变，Owner尔清单Alex出众排符David文评测集mi动范围周三交接口，周五交基线验收同时看NDCD和P95开板只做向量召回，50+cross incoder仲态取发超时降级微调多模态大模型仲台全不做，指标不达标就回退。