1. 推理深度的含义
- 推理深度指模型在链式思维中展开的中间推理步骤数量与细致程度
- 深度过浅:步骤被压缩,容易跳跃推理、遗漏关键子问题
- 深度过深:步骤冗余,可能稀释注意力、累积微小错误,甚至"过度思考"偏离题意
2. 适度加深的正向作用
- 更多中间步骤降低单步认知负荷,减少跳跃式错误
- 在复杂、多跳任务上,适度展开推理显著提升正确率
- 实证上,GSM8K 等数学任务中,显式展开推理链远优于直接回答
3. 边际递减与过深风险
- 推理深度存在"最优区间",超过后增益递减甚至下降
- 过长的推理链在常识、部分符号任务上增益有限,且更易出现前后矛盾
- 模型可能在冗长链条中引入与问题无关的中间假设
4. 任务适配原则
- 简单任务:浅层推理即可,无需长链
- 复杂 / 多跳任务:需要更深的推理展开
- 深度应与任务复杂度匹配,而非越长越好
5. 工程建议
- 动态深度控制:根据任务复杂度调节展开程度
- 置信度阈值 + 早停机制:置信度足够时提前终止
- 将自一致性与深度控制结合,兼顾质量与成本