Q:短期记忆压缩后,过了很长时间又需要当时完整信息怎么办?
来源:AI初创Agent开发实习
新手答:“那就别压缩呗,全保留。”
高手答:
这是记忆系统“有损压缩”的经典两难——压缩省 token 但丢细节。解决方案是分层存储:
- 双写策略:压缩后的摘要送入上下文供模型使用,但原始完整对话同时持久化到数据库/文件系统(不删除原文)
- 按需回溯:当模型需要历史细节时(如用户说“我之前第三轮提到的那个方案”),Agent 根据时间/关键词去原始存储检索完整内容,临时注入上下文
- 摘要 + 指针:压缩摘要中保留关键片段的“指针”(如 session_id + turn_id),需要时通过指针回查原文
- 分级 TTL:热数据(近期对话)保留完整,温数据(几天前)保留摘要+原文可查,冷数据(很久前)只保留摘要
- 重要性标记:压缩时对“含决策/承诺/关键事实”的对话轮次打标,这些永远保留完整版本
差距在哪:面试官要看你是否理解“给模型的上下文”和“系统持久化的完整记录”是两码事——上下文可以压缩,但原始数据不能丢。