1. 生成-反思-修正三阶段循环
反思式推理遵循一个结构化的三阶段循环:
- 生成(Generate):AI 基于用户输入产生初始输出,如答案、代码、方案或计划
- 反思(Reflect):系统对初始输出进行评估,检查其正确性、完整性、一致性与安全性,识别潜在错误或遗漏
- 修正(Refine):根据反思阶段的反馈,对输出进行修订和优化,并可重复循环直至满足质量阈值
这一循环可由单一模型在同一上下文中完成,也可拆分为独立的生成模块与评估模块,后者通过分离"创作者"与"批评者"角色来减少模型自我背书倾向。
2. 终止条件的关键设计
无限制的反思循环可能导致无限迭代甚至质量退化,因此必须设置明确的终止条件:
- 固定迭代次数:限制循环执行 2 至 3 轮,超过即停止
- 质量阈值判定:当评估分数超过预设标准时终止
- 收敛检测:连续两次修订的变化量低于阈值即视为收敛
- 外部验证:通过单元测试、API 调用等工具验证结果正确性后终止
3. 完整推理流程示例
以代码调试任务为例,反思式推理的执行流程如下:
- 接收用户任务,分析需求并制定初步策略
- 调用工具执行操作(如运行代码、查看报错信息)
- 获取工具执行结果(如错误日志、运行输出)
- 深度复盘失败原因,分析"为什么会出错、哪里出错、如何改进"
- 根据反思结果调整策略,重新执行思考-行动-观察循环
- 重复上述过程直至任务完成