AI 可见性监测中,“提及率”“推荐率”“首位率”“声量份额”经常被放在一张报告里,但它们回答的是不同问题。若不先固定样本和计算规则,同名指标也可能无法比较。
本文给出一套可人工复核的示例口径,用于分析设计和数据检查,不代表任何产品采用的统一标准。
建议把“一条固定问句,在指定平台和入口下的一次回答”作为一个观测单位。每条记录至少包含问句版本、平台、入口、时间、语言、状态和完整回答。
同一个问题多次运行会得到多条记录。重复运行有助于观察波动,但不能假定这些回答在统计上相互独立。
先确定有效回答规则,再计算指标:
指标 | 示例定义 | 需要补充的规则 |
|---|---|---|
提及率 | 提及目标品牌的有效回答数 ÷ 有效回答数 | 品牌别名、同名歧义如何处理 |
推荐率 | 明确推荐目标品牌的有效回答数 ÷ 有效回答数 | 什么表述算推荐 |
前三推荐率 | 目标品牌被推荐且排名不大于 3 的回答数 ÷ 有效回答数 | 无序号、并列与分组名单如何处理 |
首位推荐率 | 目标品牌被推荐且排名为 1 的回答数 ÷ 有效回答数 | 排序的证据是什么 |
条件平均排名 | 有可判定推荐排名的回答中,目标品牌名次之和 ÷ 对应回答数 | 未推荐或不可判定的回答如何展示 |
“提及”不等于“推荐”。例如,“该品牌提供同类产品,但不适合当前需求”出现了品牌名,不能仅凭关键词匹配就计为推荐。
同样,没有序号的段落也未必存在排名。若无法判断,记录为“排名不可判定”;若选择按出现顺序计算,应把它明确命名为“出现顺序”,避免混同推荐优先级。
只有在样本、分母、推荐判定和排序规则一致时,才有:
首位推荐样本 ⊆ 前三推荐样本 ⊆ 推荐样本
首位推荐率 ≤ 前三推荐率 ≤ 推荐率“声量份额”至少可能采用两种算法。
一条回答中,同一品牌出现多次也只记一次。例如,回答 A 出现品牌甲和品牌乙,回答 B 只出现品牌甲,则甲有 2 次“品牌—回答”出现记录,乙有 1 次,甲的份额为 2 ÷ 3。
这种算法减少了回答篇幅和重复品牌名的影响。
若甲在两条回答中合计出现 5 次、乙出现 1 次,甲的份额为 5 ÷ 6。该算法更容易受到文本长度和重复描述影响。
两种算法都需要固定:
分母为零时应标记为“不适用”,不能随意写成 0%。竞品集合变化后,历史份额也可能变化,应保留集合版本。
假设有 100 条有效回答:
事件 | 回答数 | 对应比例 |
|---|---|---|
提及目标品牌 | 40 | 提及率 40% |
明确推荐目标品牌 | 25 | 推荐率 25% |
目标品牌推荐排名在前三 | 10 | 前三推荐率 10% |
目标品牌推荐排名为第一 | 4 | 首位推荐率 4% |
这些数字只是演算示例,不是业务案例或效果承诺。
若另一组 100 条回答中,只有 2 条给出了目标品牌的可判定推荐排名,分别为 1 和 3,则条件平均排名为:
条件平均排名 = (1 + 3) ÷ 2 = 2
排名样本覆盖率 = 2 ÷ 100 = 2%只展示“平均排名第 2”会掩盖其余 98 条回答的情况。因此平均排名应同时展示可判定排名样本数、覆盖率,以及未推荐和排名不可判定的数量。
不宜直接给所有未推荐回答补一个任意名次,再与条件平均排名比较。若要使用惩罚排名,须另立指标并说明惩罚值。
假设平台 A 的推荐情况为 80/100,平台 B 为 1/10。
汇总方式 | 计算 | 结果 |
|---|---|---|
合并样本统计 | (80 + 1) ÷ (100 + 10) | 约 73.6% |
两个平台等权 | (80% + 10%) ÷ 2 | 45% |
两种结果不同,是因为前者按样本数加权,后者按平台等权。汇总前应说明所回答的问题:是在看所有采样回答中的表现,还是把两个平台视为同等重要。
问题集同理。若某类问题本来就容易出现品牌,却在本周新增大量样本,整体推荐率可能上涨,即使原有问题没有改善。
因此跨期比较应尽量固定问句集、平台入口、语言、日期窗口、采样次数、品牌集合和汇总权重。发生变更时应保留版本,并对可比子集另做分析。
建立事实核对表,将产品参数、适用范围、认证和交付条件等拆成可核查项,再标记“准确”“错误”“证据不足”。
“证据不足”不应直接当作错误。准确率按整条回答算,还是按事实陈述算,也要事先确定。若由模型初判,建议对关键错误和随机样本人工复核。
记录回答明确列出的来源网页,并区分:
引用只能说明答案明确标注了哪些来源,不能还原模型全部信息来源,也不能直接推断该页面导致了推荐。
抽取一批完整回答,按同一标注表人工复核,再与系统结果对照。发现差异时,先判断来自品牌识别、推荐判定、排序规则,还是分母处理。
记录编号:
问句版本:
平台与入口:
有效回答:是 / 否
目标品牌被提及:是 / 否 / 待核查
目标品牌被推荐:是 / 否 / 待核查
推荐排名:整数 / 不可判定 / 不适用
引用来源:
标注依据:
复核人员与时间:不要为了得到一致数字而临时修改规则。规则需要调整时,应更新版本,并对受影响样本统一重算。
一份可复核的 AI 可见性报告,应同时提供指标定义、分子分母、样本范围、异常处理、汇总权重和原始回答。先把这些条件对齐,再讨论百分比升降,才能区分真实变化、采样波动与口径变化。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。