大模型知识问答节点

最近更新时间:2025-09-09 16:17:42

我的收藏

节点功能

大模型节点属于信息处理类节点,支持用户输入问题并配置检索范围进行知识问答,输出大模型生成的回复内容。




操作说明

输入变量

输入变量仅在该节点内部生效,不能跨节点使用。支持最多添加50个输入变量,满足多输入变量场景需要。点击添加,进行如下配置添加输入变量。
配置
说明
变量名称
该变量的名称,只能包含字母、数字或下划线,并且以字母或下划线开头,必填
变量描述
该变量的说明信息,非必填
数据来源
该变量的数据来源,支持“引用”、“输入”两种选项。“引用”可选择前序所有节点的输出变量,“输入”可手动填入固定值,必填
变量类型
该变量的数据类型,不可选择,默认为引用的变量类型或输入的 string 类型

知识问答

模型

支持选择用户当前账号下具有使用权限的大模型,同时,支持配置大模型相关的温度、Top_P 和最大回复 Token 三个高级设置。其中,温度用于控制生成内容的随机性,Top_P 用于控制生成内容的多样性,最大回复 Token 用于控制模型生成内容的最大长度。

用户问题

表示知识问答中的提问内容,支持用户输入期望大模型检索回答的问题,此处支持直接引入变量、手动输入内容或者混合输入变量和文本内容。典型使用场景包括:
场景1. 直接引用“用户本轮对话”进行知识检索
假设在上方配置输入变量(如 Query),引用系统变量 SYS.UserQuery。
此时“用户问题”可以配置为:Query,表示使用当前用户本轮对话进行问答。
场景2. 需结合“前序节点的输出变量”拼接内容
假设在上方配置输入变量(如 Typeld),引用前序节点的变量“设备型号”。
此时询问设备型号所对应的保修期,则“用户问题”可以配置为:请问 TypeId 的设备保修期是多久?

提示词

支持用户补充输入模型提示词,如内容排序、回复规范与限制、输出格式要求等,增强问答准确性。此处支持直接引入变量、手动输入内容或者混合输入变量和文本内容。

知识

用于配置知识检索范围,包括“全部知识”、“按特定知识”和按标签三种。
配置
说明
全部知识
表示检索知识库中配置的全部知识。
按特定知识
特定知识分为文档和问答。
对于文档,支持手动选择用于知识检索的文档。对于问答,支持开启或者关闭问答,如开启则会在全部问答中召回。
按标签
表示按文档标签检索知识范围,支持输入固定标签值,或者引用变量作为标签值。
引用变量作为标签值可以更灵活地控制知识检索范围。典型场景:针对不同部门的员工,区分不同的知识范围。此时可以将员工所在部门以 API 参数方式传入系统,同时将知识打上不同部门的标签。在工作流调用时,根据员工部门动态调整检索范围。
按特定知识配置如下:



按标签配置如下:




高级设置

用于知识问答的检索策略设置、文档设置和问答设置,进行个性化检索配置。
配置
配置选项
说明
检索策略设置
混合检索
同时执行关键词检索和向量检索,推荐在需要对字符串和语义关联的场景下使用,综合效果更优
语义检索
推荐 query 与文本切片重叠词汇少,需要语义匹配的场景
Excel 检索增强
是否开启
开启后,支持基于自然语言对 Excel 表格进行查询和计算,但可能影响应用回复耗时
文档设置
文档召回数量
检索返回的最高匹配度的 N 个文档片段,默认为5,最大为20
文档检索匹配度
根据设置的匹配度,将找到的文本片段返回给大模型,作为回复参考。值越低,意味着更多的片段被召回,但也可能影响准确性,低于匹配度的内容将不会被召回。默认为0.2,最大为0.99
问答设置
问答召回数量
检索返回的最高匹配度的 N 个问答片段,默认为3,最大为5
问答检索匹配度
根据设置的匹配度,将找到的文本片段返回给大模型,作为回复参考。值越低,意味着更多的片段被召回,但也可能影响准确性,低于匹配度的内容将不会被召回。默认为0.7,最大为0.99

中间消息

如果节点输出耗时久,支持用户自定义中间消息缓解等待压力,为非流式输出,支持引用前序节点变量。

输出变量

经该节点处理后的输出变量,默认为大模型思考过程、大模型运行后输出内容和检索到的知识片段,以及运行时报错信息 Error(数据类型为 object,正常运行时该字段为空)。不支持手动新增。




异常处理

可手动开启异常处理,支持异常重试和异常情况的输出内容配置。配置内容如下:
配置
说明
最大重试次数
节点运行异常时重新运行的最大次数。重试超过设定次数,认为该节点调用失败,返回“异常情况的输出变量”内容,默认为3次
重试时间间隔
每次重新运行的时间间隔,默认为1秒
异常处理方式
支持“输出特定内容”和“执行异常流程”两种
异常情况的输出变量
选择异常处理方式为“输出特定内容”时,超过最大重试次数后节点返回的输出变量



选择异常处理方式为“执行异常流程”时,则节点异常重试后执行用户自定义的异常处理流程。




应用示例

创建智能体开发平台知识问答助手,为用户提供针对智能体开发平台工作流部分问题的回复。




常见问题

大模型知识问答节点和知识检索节点有什么区别?
大模型知识问答节点会将检索到的知识交由大模型总结并生成最终回复,而知识检索节点只返回检索到的知识片段。