用对话框连续写长篇,输入侧的开销是累加的:
如果一本 260 章、单章 2400–3000 字的作品,正文总量约 62 万–78 万字。如果按"把前文全带上"的做法,第 260 章的输入规模就是几十万字符级别。
这不是"能不能塞进去"的问题,是三个更现实的问题:
隐性成本 | 具体表现 | 后果 |
|---|---|---|
窗口撞顶 | 前文一旦超过窗口,必须截断或摘要压缩 | 截断处就是记忆丢失处 |
注意力稀释 | 窗口塞得下,但早期内容权重被摊薄 | "看得见,但顾不上" |
延迟与失败率 | 输入越长,首 token 延迟越长、超时概率越高 | 长文本请求偶发 5xx |
我们内部有一句话,是在两部实验稿里被反复验证的:
"长篇写作的难点,从来不是写出一段好文字,而是二十万字之后,还记不记得前面写过什么。"
这句话的工程含义是:上下文不是记忆。 上下文是"这一次请求能看见的东西",记忆是"程序随时能取出来的东西"。二者混为一谈,就必然写成"把整本书塞进去"。
台账 | 存什么 | 写入时机 | 读取时机 |
|---|---|---|---|
人物库 | 角色性格、关系、能力边界、别名 | 人物种子环节建档,定稿时增量更新 | 本章涉及的角色出场前 |
事实台账 | 世界观、设定、既定剧情事实 | 定稿时按"新增事实"追加 | 涉及设定引用、数值、时间线时 |
伏笔台账 | 伏笔埋在哪章、形态、回收状态 | 章节框架环节预登记,定稿时更新状态 | 章节框架、审查两个环节 |
章节摘要台账 | 每章固定字段摘要 | 定稿入库时由程序截取写入 | 需要前情时按章号或人物检索 |
关键点不在"存了什么",在"什么时候取、取多少"。 四本台账如果每次全量注入,等于把线性增长换了个地方发生。
三条取用规则:
三个设计决定:
这三条合起来,才是"常量级"的真正来源。 不是因为台账小,是因为"这一章需要的东西"本来就不随章数增长。
维度 | 通用 RAG | 结构化台账 |
|---|---|---|
检索方式 | 向量相似度,取相似度最高的若干段 | 确定性键 + 章节窗口 |
召回性质 | 可能召回"意思相近但事实不同"的段落 | 召回的是唯一事实条目 |
可解释性 | 差(为什么召回到这段说不清) | 强(取的是哪一行的哪一条,可打印) |
适用 | 非结构化知识、问答 | 有主键、有状态、要精确一致的长篇设定 |
短板 | 相似 ≠ 正确 | 需要先设计表结构,前期成本高 |
结论:长篇写作更怕"召回错了",而不是"召回少了"。 一个"父亲已死"的事实被语义召回成"父亲的旧部"段落,写出来的就是硬伤。
项 | 值 |
|---|---|
测试时间 | 2026 年 9 月 – 2026 年 10 月 |
作品类型 | 中文男频长篇(单一题材,未换线) |
模型 | DeepSeek V4.1 Flash(全流程同一模型) |
单章目标字数 | 2400–3000 字 |
目标章数 | 260 章(单部作品连续推进) |
推进方式 | 每环节等待确认,跨卷由系统自动拉起 |
统计口径 | 每次请求记录 prompt 字符数、章节号、环节 |
只有第 1 条出现,才判"记忆机制失效";第 2 条单独出现记为"检索配置错误",不计入机制失效。 这条区分很重要——把配置错误算成机制失效,会把战线拉到自己身上。
指标 | 线性基线(算术推演) | 实测 | 说明 |
|---|---|---|---|
第 10 章单章输入 | 约 2.6 万字符 | 6–7 万字符 | 常量部分(锚点 + 规则卡)占大头 |
第 260 章单章输入 | 约 67 万字符 | 6–7 万字符 | 与第 10 章基本持平 |
增长斜率 | 线性 | ≈ 0 | 不随章数增长 |
260 章总量 | — | 70 多万字 | 单部作品 |
返修率 | — | 约 8% | 主要为薄章与场景重复 |
记忆缺失次数 | — | 0(触发审查拦截后返修) | 台账比对生效 |
关于"线性基线"这一列:它不是我们跑出来的对照组,而是按"把前文全带上"的写法做的算术推演(章数 × 单章字数),列出来只是把量级差异说清楚。真实环境里这种做法早在窗口撞顶时就断了,跑不到第 260 章。
最值得看的是第二行。 如果做到第 260 章时单章输入还在 6–7 万字符,说明"线性增长"确实被改成了"常量级";如果它涨到了几十万,那四本台账就只是个更花哨的提示词。
以上是内部实测记录,不代表每个使用者都能复现同样结果。
四本台账的价值不在"存得多",在"取得准"。它把长篇的上下文开销从"随章数线性增长"压成"按环节的常量",代价是前期要把人物、设定写成结构化记录。
三条可复制的建议:
一句话收口:模型不需要记住整本书,它只需要在当前这一步做对。
原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。