聊天机器人转眼就忘事,往往不是模型笨,而是记忆机制没设计好。本文拆解短期记忆与长期记忆的分工,给出写入、检索与压缩的落地要点。

和 AI 聊了半天,它却忘了你开头说的话?这不是模型“笨”,而是记忆机制没设计好。要让 Agent 表现得像个“记得住事”的助手,需要把记忆拆成短期和长期两层来经营。
两类记忆,各司其职
短期记忆就是当前对话的上下文窗口,装着最近的问答和工具结果,随会话结束而消失;长期记忆则存在外部,通常是向量库加结构化数据库,跨会话保留用户偏好、事实和历史结论。把两者混为一谈,是很多“记不住”问题的根源。
短期记忆的坑
上下文窗口有限,长对话会不断挤压空间;而且模型对“中间位置”的信息注意力较弱,重要内容可能被忽略(即所谓“中间丢失”现象)。应对办法包括:把关键约束放在显眼位置、定期把长对话压缩成摘要、把工具返回的冗长结果先提炼再入上下文。
长期记忆写什么、何时写
- 写什么:稳定的用户偏好、已确认的事实、任务结论——而非逐字对话;
- 何时写:在任务完成或信息被确认时写入,避免把猜测沉淀成“记忆”;
- 如何维护:去重、带时间戳、支持更新与失效,防止旧信息误导新任务。
记忆写得越杂,检索时噪声越大,“记得越多反而越糊涂”就是这个道理。
检索回来怎么放
长期记忆不是越多越好。按相关性和时效性排序,只把最相关的少数几条注入上下文;必要时让模型自己判断“这条记忆是否适用于当前任务”。一次塞进十几条相似记忆,往往适得其反。
落地清单
先明确哪些信息值得长期保留,再搭建“写入—检索—注入”的闭环,并为每条记忆标注来源和时间。结论:好的记忆机制不是把一切存下来,而是在需要时能取出正确的那一两条。少而准,胜过大而全。
本文同步自 ev7.cn · AI 博客,原文地址:https://www.ev7.cn/109.html
皮皮 AI 导航
AI 工具榜