小螃蟹问机器人:“你记得故事会改到室内了吗?”
机器人说:“当然。海边露天故事会……”
小螃蟹把钳子拍在桌上:“你记得很牢,牢牢地记错了。”
知识回答‘有哪些资料与规律’,记忆帮助系统保留‘之前发生了什么、现在做到哪里’。
场地开放规则是知识;故事会已改到室内、预约还没完成,是这次任务的状态。两者可以存在同一个数据库里,但用途不同。
训练或微调让模型参数形成语言模式与知识的内部表示。它通常不是按原文目录查书,也可能答错,或保留过时信息。
当前场地规则,可以从文件、数据库或接口获取。RAG(检索增强生成)先找相关资料,再把资料提供给模型生成回答。这通常不改变模型参数,也不保证答案一定正确。
小螃蟹说:“原来你以前学过,和你刚查到,是两回事。”
在大模型应用中,短期记忆通常指当前任务可用的信息:最近对话、系统指令、上传内容、工具结果,以及此前状态的摘要。
这些信息由应用组织,放进本次模型调用的上下文。模型根据它们继续回答;上下文窗口是一次可处理信息的容量限制,不是永久储存箱。
历史太长时,应用可能截断、筛选或压缩。你在界面里还能翻到那句话,不代表它仍被完整送给模型。
跨会话仍能使用的记忆,需要持久保存机制。应用可以从历史对话、明确偏好、已确认事实和任务记录中提取信息,写入文件、数据库或专门的记忆服务。
下一次,根据账号、任务或相关性,把需要的信息读取到上下文中。这才形成‘提取→保存→读取→使用’的过程。
存储可用普通数据库;需要语义检索时,也可以借助向量数据库。向量数据库不会自动替你判断哪些事情值得记,更不等于模型本身的记忆。
小螃蟹追问:“那我说‘以后记住’,有用吗?”
“要看产品有没有把它保存,并在需要时读回来。只回复‘记住了’,还不够。”
有些技术资料把参数中的知识叫‘参数记忆’。但它与应用保存的个人经历、偏好和任务记录,机制不同。
一次普通对话通常不会直接修改模型参数。下次还能记起你说的话,往往依赖应用提供的历史或记忆功能,而不是模型当场重新训练了自己。
短期、长期是应用层的常见解释方式,不同系统的实现和称呼可能不同。
故事会从室外改到室内,要更新当前状态,避免把两个版本都当成有效安排。重要记录还应保留来源、时间和适用任务,并允许纠正或删除。
预约是否成功,最好查业务系统中的确认记录;不能只凭模型一句‘我记得’。
小螃蟹收起钳子:“以后我先问:存在哪里,什么时候更新,这次读到了什么?”