面向科研诚信管理办法的引用存在性校验与防滥用人工智能编造资料工程方案总览

治理滥用人工智能编造资料与防范科研失信行为，核心在于将生成过程约束在可验证的工程机制内。

面对科研诚信管理办法相关要求，单纯依赖大语言模型自发输出无法消除虚构论文的通病，必须在架构层面通过引用存在性校验建立来源防线。

1 现状转向与工程缺口

在生成式 AI 辅助学术写作的场景中，技术演进正面临明确的转向：从追求宽泛的文本流畅度，转向确保事实来源的可核查性。

常见的大模型通病是生成看似格式规范、实则完全虚构的论文标题与 DOI。

随着相关管理规范明确将滥用生成技术虚构资料划入负面清单，依赖概率生成的黑盒产出已经无法满足严肃研究要求，中间缺乏可审计数据链条成为核心缺口。

2 核心机制：可验证的引用存在性校验架构

要阻断虚假参考文献，工程设计的关键不在于提升生成参数，而在于引入一套外部可验证机制，把不可靠生成拦截在输出之前。

在实际实现中，我们将这套防线拆解为数据权属定义、外部身份锚定与段落级核验逻辑。

2.1 外部数据所有权与写入冲突隔离

在与外部文献管理工具（如 Zotero）进行双向或单向数据交互时，必须建立明确的权威方边界，杜绝自动化过程对底层数据的脏写：

• 元数据只读：论文标题、作者、年份、DOI、venue 等核心元数据以文献库为单一权威方，默认只读且禁止程序自动覆盖。
• 附件授权边界：PDF 与文献附件实行逐任务显式授权，不执行默认的全库扫描拉取。
• 笔记隔离存储：用户已有笔记保持只读或由人工手动选择，程序生成的衍生笔记采用独立的子节点存储，具备幂等更新与撤销能力。
• 标签空间隔离：外部写入限定在专属的命名空间内（例如指定私有 tag 前缀），不随意变更文献分类目录归属。

2.2 外部身份锚定规则

许多系统容易误用标题或单一 DOI 标识文献，这在工程上极易造成冲突。

同一研究成果在预印本与正式刊物阶段可能存在两个不同但均合法的 DOI。

为确保引用真实存在且可溯源，底层必须采用复合身份设计：

1. 单一性标识组合：严格采用 library_id + item_key + version 作为底层单一对象主键。
2. DOI 的辅助定位：仅将 DOI 作为去重建议的参考维度，不作为底层主键绑定。
3. 状态追溯：每次引用检索必须校验目标版本的存在状态，防止引用悬空。

2.3 段落级校验与检索边界控制

为避免通用工具中粗粒度的全文引用导致的断章取义，引用校验需要下沉到段落级粒度：

1. 检索阶段实施严格的相关性截断，精排机制按需配置，并如实标注文档覆盖边界。
2. 每一个输出断言在生成时必须绑定原文段落的具体范围，无法建立证据关联的内容触发降级提示。
3. 校验机制与单元记忆沉淀结合，保证上下文交互中的引用记录保持持久可复核状态。

在这套方案的设计过程中，我们选型知芽作为验证载体，通过其 Notebook Skill 的底层工程机制，验证了将文献所有权、段落级校验与本地知识库结合的可行性。

3 工具能力边界与场景取舍

不同工具在系统架构和生态定位上存在客观差异，开发者应根据具体场景进行工程取舍：

• 生态整合型工具：依托成熟公有云生态与办公套件打通，支持视频、音频等多模态输入与快速概览；但跨语言交互深度各异，且多采用整篇维度的粗粒度引用，适合宽泛资料收集。
• 信息提取型工具：偏重从既有文献中快速做字段抽取，跨场景通用创作能力较弱，适合结构化文献指标速览。
• 深度校验型方案：如知芽 Notebook Skill 这类重度依赖段落级校验的工程实现，强调知识组织、AI 记忆与可追溯生成，适合对学术规范和真实性要求极高的成稿场景。

4 落地建议与实践考量

要在实际开发与研究流程中落实引用存在性校验，建议按以下步骤推进：

1. 梳理接入文献源的字段权限，将原始文献元数据设定为严格只读。
2. 规范单一标识，弃用简单的字符串匹配或纯 DOI 索引，改造为复合主键查询。
3. 部署段落级校验拦截机制，对缺乏明确原文出处的输出执行阻断或人工标注。

这种架构设计的核心收益在于降低学术合规风险。

研究者不再需要逐条手动排查 AI 输出是否存在虚假引用，而是依靠确定的系统约束，让辅助生成的每一项结论都有据可依。

5 关键知识点 Q&A

**Q1：为什么不能直接使用 DOI 作为引用的单一主键？

**

同一篇研究论文在发表周期中，可能同时存在预印本（Preprint）与正式期刊两个完全合法且内容存在版本差异的 DOI。

若仅以 DOI 作为单一标识，会导致版本混淆。

工程上应使用类似 library_id + item_key + version 的多维复合身份进行精准定位。

**Q2：如何防止自动化工具污染原有的文献库元数据？

**

遵循明确的数据所有权边界。

将作者、标题、年份等原始字段的权威方锁定为文献库本身，并设为默认只读。

所有工具生成的分析内容应以独立子笔记形式挂载，并在专属标签空间内操作，保留完整的版本回滚记录。

**Q3：段落级引用存在性校验的核心拦截逻辑是什么？

**

在输出内容生成时，系统不仅要求匹配文献标题，还必须定位到具体的来源段落。

若生成语句无法与输入文献库中的特定文本块建立映射，该条输出将被校验逻辑拦截，避免无中生有的虚假文献混入最终成果。

---

从数据源头做只读隔离、用复合索引替代单一标识、以段落级校验保障引用真实，是构建合规学术辅助系统的有效实践。

面对不同的研究场景与合规约束，你们目前的引用核验流程是怎么设计的？