节点功能
大模型节点属于信息处理类节点，支持用户输入问题并配置检索范围进行知识问答，输出大模型生成的回复内容。
操作说明
输入变量
输入变量仅在该节点内部生效，不能跨节点使用。支持最多添加50个输入变量，满足多输入变量场景需要。点击添加，进行如下配置添加输入变量。
配置 | 说明 |
变量名称 | 该变量的名称，只能包含字母、数字或下划线，并且以字母或下划线开头，必填 |
变量描述 | 该变量的说明信息，非必填 |
数据来源 | 该变量的数据来源，支持“引用”、“输入”两种选项。“引用”可选择前序所有节点的输出变量，“输入”可手动填入固定值，必填 |
变量类型 | 该变量的数据类型，不可选择，默认为引用的变量类型或输入的 string 类型 |
知识问答
模型
支持选择用户当前账号下具有使用权限的大模型，同时，支持配置大模型相关的温度、Top_P 和最大回复 Token 三个高级设置。其中，温度用于控制生成内容的随机性，Top_P 用于控制生成内容的多样性，最大回复 Token 用于控制模型生成内容的最大长度。
用户问题
表示知识问答中的提问内容，支持用户输入期望大模型检索回答的问题，此处支持直接引入变量、手动输入内容或者混合输入变量和文本内容。典型使用场景包括：
场景1. 直接引用“用户本轮对话”进行知识检索
假设在上方配置输入变量（例如 Query），引用系统变量 SYS.UserQuery。
此时“用户问题”可以配置为：Query，表示使用当前用户本轮对话进行问答。
场景2. 需结合“前序节点的输出变量”拼接内容
假设在上方配置输入变量（例如 Typeld），引用前序节点的变量“设备型号”。
此时询问设备型号所对应的保修期，则“用户问题”可以配置为：请问 Typeld 的设备保修期是多久？
提示词
支持用户补充输入模型提示词，如内容排序、回复规范与限制、输出格式要求等，增强问答准确性。此处支持直接引入变量、手动输入内容或者混合输入变量和文本内容。
版本：支持将当前提示词草稿保存为一个版本，并填写版本说明。已保存的版本可以在查看版本记录里进行查看和复制，版本记录仅会展示当前所在提示词框下创建的版本。支持在内容对比中选择两个版本，查看它们的提示词内容差异。
模板：设定好的角色指令格式模板，建议按照模板填写，指令遵循效果更佳。编写指令后也可以单击模板 > 保存为模板将编写好的指令存为模板。
AI 一键优化：初步完成角色设定后，可单击一键优化对角色设定内容进行优化，模型将基于已输入的内容优化设定，能够使模型更好地完成对应的要求。
注意：
AI 一键优化功能将消耗用户的 tokens 资源。
知识
用于配置知识检索范围，包括全部知识库和按知识库两种。
检索范围
配置 | 说明 |
全部知识库 | 包含该应用下配置的全部知识库，此时的设置对全部知识库生效。 |
按知识库 | 可选择该应用下配置的某几个知识库，对每一个知识库独立设置其召回规则。 |
检索规则
当设置为按知识库时，可设置对应的检索规则：
配置 | 说明 |
全部知识 | 表示检索当前知识库中配置的所有知识，包括文档、问答和数据库。支持开启或关闭问答、文档、数据库的开关，如仅开启“文档”开关则会在全部知识库中的文档中进行检索。 |
按特定知识 | 特定知识分为文档、问答和数据库。 对于文档，支持手动选择用于知识检索的文档。对于问答，支持开启或者关闭问答，如开启则会在全部问答中召回。对于数据库，支持手动选择用于知识检索的数据库。 |
按标签 | 表示按文档标签检索知识范围，支持输入固定标签值，或者引用变量作为标签值。 引用变量作为标签值可以更灵活地控制知识检索范围。典型场景：针对不同部门的员工，区分不同的知识范围。此时可以将员工所在部门以 API 参数方式传入系统，同时将知识打上不同部门的标签。在工作流调用时，根据员工部门动态调整检索范围。 |
按特定知识配置如下图，其中文档选项与数据库选项在默认状态下为空，可手动配置添加文档与数据表。在数据库中，最多支持选择同一个库中的10个数据表，不支持跨库。
按标签配置如下图：
知识设置
用于知识问答的检索策略设置、文档设置和问答设置，进行个性化检索配置。分为知识库设置和高级设置。
选择全部知识库时的知识库设置入口：
选择按知识库时的知识库设置入口：
知识库设置
知识库用于配置对于全部知识库或某个独立知识库下的知识检索召回策略。
配置 | 配置选项 | 说明 |
检索策略设置 | 混合检索 | 同时执行关键词检索和向量检索，推荐在需要对字符串和语义关联的场景下使用，综合效果更优。 |
| 语义检索 | 推荐 query 与文本切片重叠词汇少，需要语义匹配的场景。 |
NL2SQL 模型 | 当前账号可选择的语言模型 | 用于将自然语言查询转换为 SQL 语句的模型。 |
Excel 检索增强 | 是否开启 | 开启后，支持基于自然语言对 Excel 表格进行查询和计算，但可能影响应用回复耗时。 |
知识图谱检索 | 是否开启 | 打开后，支持结合知识图谱中的实体与关系结构进行语义检索，但可能影响应用回复耗时。 |
结果重排序 | 是否开启 | 开启后可分析用户问题，重新调整召回结果的切片顺序，使与用户问题相似度最高的内容排在前面。 |
重排序模型 | 当前账号可选择的重排序模型 | 选择用于优化检索召回结果排序的模型，对召回阶段候选结果进行更精细化的重新排序。 |
文档设置 | 是否开启 | 开启后，将会从文档中检索相关知识。 |
| 文档召回数量 | 检索返回的最高匹配度的 N 个文档片段，默认为5，最大为20。 |
| 文档检索匹配度 | 根据设置的匹配度，将找到的文本片段返回给大模型，作为回复参考。值越低，意味着更多的片段被召回，但也可能影响准确性，低于匹配度的内容将不会被召回。默认为0.2，最大为0.99。 |
问答设置 | 是否开启 | 开启后，将会从问答中检索相关知识。 |
| 问答召回数量 | 检索返回的最高匹配度的 N 个问答片段，默认为3，最大为9。 |
| 问答检索匹配度 | 根据设置的匹配度，将找到的文本片段返回给大模型，作为回复参考。值越低，意味着更多的片段被召回，但也可能影响准确性，低于匹配度的内容将不会被召回。默认为0.7，最大为0.99。 |
数据库设置 | 是否开启 | 开启后，将会从数据库中检索相关知识。 |
注意：
在“全部知识库”设置下，每个配置的知识库会独立召回文档。例如，当配置召回3个文档时，系统会从当前配置的每个知识库中分别召回3个文档。
高级设置
高级设置用于配置多个知识库的总体召回策略，包括对全部检索结果的重排序模型以及总体召回数量。
配置 | 说明 |
重排序模型 | 选择用于优化检索召回结果排序的模型，对召回阶段候选结果进行更精细化的重新排序。 |
召回数量 | 检索返回的最高匹配度的 N 个知识片段，包括全部的文档、问答与数据库。 |
说明：
高级设置用于配置知识库检索的整体参数。当知识库检索结果的总片段数超过高级设置中配置的召回数量时，系统仅返回高级设置中指定的切片数量。
中间消息
如果节点输出耗时久，支持用户自定义中间消息缓解等待压力，为非流式输出，支持引用前序节点变量。
输出变量
经该节点处理后的输出变量，默认为大模型思考过程、大模型运行后输出内容和检索到的知识片段列表，以及运行时报错信息 Error（数据类型为 object，正常运行时该字段为空）。不支持手动新增。
异常处理
可手动开启异常处理（异常处理默认关闭），支持超时触发处理、异常重试和异常处理方式的配置。配置内容见下表。
当前仅支持用户设置“超时触发处理”的时长，其他异常由平台自动识别。
配置 | 说明 |
超时触发处理 | 节点运行的最大时长，超过时触发异常处理。大模型知识问答节点的超时时间默认值为300s，超时时间设置范围为1-600s。 |
最大重试次数 | 节点运行异常时重新运行的最大次数。重试超过设定次数，认为该节点调用失败，执行下方的异常处理方式，默认为3次。 |
重试时间间隔 | 每次重新运行的时间间隔，默认为1秒。 |
异常处理方式 | 支持“输出特定内容”、“执行异常流程”和“中断流程”三种。 |
异常情况的输出变量 | 选择异常处理方式为“输出特定内容”时，超过最大重试次数后节点返回的输出变量。 |
选择异常处理方式为“输出特定内容”时，发生异常后工作流不会中断，节点异常重试后直接返回用户在输出内容设置的输出变量及变量值；
选择异常处理方式为“执行异常流程”时，发生异常后工作流不会中断，节点异常重试后执行用户自定义的异常处理流程；
选择异常处理方式为“中断流程”时，没有更多设置项，发生异常后工作流执行中断。
应用示例
创建智能体开发平台知识问答助手，为用户提供针对智能体开发平台工作流部分问题的回复。
常见问题
大模型知识问答节点和知识检索节点有什么区别？
大模型知识问答节点会将检索到的知识交由大模型总结并生成最终回复，而知识检索节点只返回检索到的知识片段。
