大语言模型幻觉缓解综述工作底稿
这是检索与写作框架的实际生成结果,不是完成的文献综述。由于未联网打开原文,本文不列作者、题名、年份或效果数字,避免把记忆中的论文信息冒充可核验引用。
| 方向 | 核心问题 | 统一编码字段 | 重点局限 |
|---|---|---|---|
| 检索增强 | 回答前如何获得外部证据 | 语料、召回、重排、引用正确率 | 检索错会放大生成错 |
| 对齐训练 | 如何让模型少编并愿意拒答 | 数据来源、偏好目标、拒答率 | 可能牺牲覆盖率 |
| 不确定性估计 | 如何识别“模型自己也不确定” | 置信分数、校准误差、阈值 | 自信不等于事实 |
| 生成后验证 | 如何检查陈述与证据一致 | 验证器、粒度、修订策略 | 验证器也会出错 |
可复现检索式
text
("large language model" OR LLM) AND
(hallucination OR factuality) AND
(retrieval OR alignment OR uncertainty OR verification)
Year: 2022-2026纳入标准:能访问原文;明确任务、数据集、基线和指标;至少报告一种局限。排除标准:只有二手转述、无实验细节、题名与摘要无法相互印证。每篇由两轮处理:先做文献卡,再按方向横向比较,禁止直接拼摘要。
两个候选切口
- **面向企业私有知识的“证据充分才回答”校准。**比较拒答阈值对事实正确率、覆盖率和人工接管率的共同影响。
- **检索失败可诊断性。**把错误拆成没召回、召回冲突、引用错配、生成越界,研究不同环节的可观测信号。
完成版必须补齐中英文数据库检索日期、去重流程、每条真实URL/DOI和原文核对记录;在此之前,这份预览不能作为开题引用。