Q:跨会话记忆如何从对话中提取?哪些信息值得写入长期记忆?
来源:小红书 Agent 岗一面
新手答:“每轮让 LLM 总结一下,然后存进向量数据库。”
高手答:
跨会话记忆写入应是独立管线,而不是把整段聊天原样长期保存:
text
会话事件 → 候选提取 → 类型分类 → 价值/风险判定
→ 去重与冲突检测 → 用户确认(必要时)→ 结构化写入候选信息通常分为:稳定用户事实、长期偏好与沟通风格、持续项目约定、明确纠正、可复用环境事实。临时任务进度、一次性验证码、模型猜测、敏感数据和容易重新获取的信息默认不写入。
LLM 负责从自然语言中提取候选和证据片段,输出受 JSON Schema 约束的字段,如 type/content/evidence/confidence/scope/ttl;系统规则再做硬过滤。写入前按实体键和语义相似度去重,发现“喜欢辣”和“不吃辣”这类冲突时保留时间与来源,不直接覆盖。高敏感或低置信度记忆要求用户确认,且应支持查看、纠正和删除。
检索时还要基于当前任务做相关性、时效性、可信度和权限过滤。能被存下来不代表每轮都应注入上下文。
差距在哪:新手只有“LLM 摘要 + 向量库”。高手说明了候选提取、规则门禁、证据、冲突、生命周期和可治理性。