首页
学习
活动
专区
圈层
工具
发布
技术百科首页 >反思式推理 >反思式推理的核心工作原理是什么?

反思式推理的核心工作原理是什么?

词条归属:反思式推理

1. 生成-反思-修正三阶段循环

反思式推理遵循一个结构化的三阶段循环:

  • 生成(Generate):AI 基于用户输入产生初始输出,如答案、代码、方案或计划
  • 反思(Reflect):系统对初始输出进行评估,检查其正确性、完整性、一致性与安全性,识别潜在错误或遗漏
  • 修正(Refine):根据反思阶段的反馈,对输出进行修订和优化,并可重复循环直至满足质量阈值

这一循环可由单一模型在同一上下文中完成,也可拆分为独立的生成模块与评估模块,后者通过分离"创作者"与"批评者"角色来减少模型自我背书倾向。

2. 终止条件的关键设计

无限制的反思循环可能导致无限迭代甚至质量退化,因此必须设置明确的终止条件:

  • 固定迭代次数:限制循环执行 2 至 3 轮,超过即停止
  • 质量阈值判定:当评估分数超过预设标准时终止
  • 收敛检测:连续两次修订的变化量低于阈值即视为收敛
  • 外部验证:通过单元测试API 调用等工具验证结果正确性后终止

3. 完整推理流程示例

以代码调试任务为例,反思式推理的执行流程如下:

  • 接收用户任务,分析需求并制定初步策略
  • 调用工具执行操作(如运行代码、查看报错信息)
  • 获取工具执行结果(如错误日志、运行输出)
  • 深度复盘失败原因,分析"为什么会出错、哪里出错、如何改进"
  • 根据反思结果调整策略,重新执行思考-行动-观察循环
  • 重复上述过程直至任务完成
相关文章
Elasticsearch的工作原理是什么?
Elasticsearch是一种流行的分布式搜索引擎,可用于处理大量数据。它使用Lucene搜索引擎库作为其核心组件,可以高效地进行复杂的全文搜索、结构化搜索和分析操作。本文将详细介绍Elasticsearch的工作原理。
网络技术联盟站
2023-06-06
1.2K0
天线的工作原理是什么
天线的工作原理主要基于电磁波的辐射和接收。当天线被放置在电磁波的场中时,天线上的电子会受到电磁波的激励而产生振动。这种振动会产生感应电流,从而在天线上产生一个电压。这个电压可以被进一步处理并转换为电子设备可以使用的电信号。
用户11339509
2024-12-09
1K0
蓝牙技术的工作原理是什么?
共计 3173 个字符,预计需要花费 8 分钟才能阅读完成。
轩辕镜像
2024-12-21
1.7K0
ElasticSearch写入数据的工作原理是什么?
es 写入数据的工作原理是什么啊?es 查询数据的工作原理是什么啊?底层的 lucene 介绍一下呗?倒排索引了解吗?
Spark学习技巧
2019-08-16
7750
es写入数据的工作原理是什么?
1)客户端任意选择一个node发送请求过去,这个node就是coordinating node(协调节点) 2)coordinating node,对该数据经过hash后,判断该数据属于哪个shard进程,找到有该shard的primary shard的node,然后对document进行路由,将请求转发给对应的node(有primary shard的结点) 3)具体接收的primary shard处理请求,然后将数据同步到replica node 4)coordinating node,如果发现primary node和所有replica node都搞定之后,就返回响应结果给客户端
名字是乱打的
2021-12-24
1.1K0
点击加载更多
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
领券