H
Hallucination
- 分类: 评估与安全
- 常见说法: 模型在说谎。
- 实际含义: 生成内容虚假、缺乏现有证据支撑,或与任务的事实来源不一致。即使输出流畅且模型并无欺骗意图,也可能发生。
- 为什么重要: 通常无法检查某个说法是否曾出现在训练数据中,因此生产检查应聚焦支撑性、正确性和可追溯性。
- 实际使用: 对事实性回答要求提供引用证据,并评估每条引用是否确实支撑对应主张。
- 常见混淆: Hallucination 是输出质量失败,不是对模型意图的诊断。
- 相关术语: Grounding, RAG (Retrieval-Augmented Generation), Verification Gate
Handoff
- 分类: AI-native 开发
- 实际含义: 在人员或 agent 之间结构化转交任务,同时保留目标、当前状态、证据、决策、约束和剩余工作。
- 为什么重要: 良好的 handoff 能避免下一位执行者从长篇记录中重建整个任务,或重复已经完成的操作。
- 实际使用: 用一份紧凑的任务包交付已接受的计划、改动文件、测试命令和结果、未解决风险以及确切的下一步动作。
- 常见混淆: Summary 只说明发生了什么;handoff 还要说明哪个状态是权威状态,以及接下来应该做什么。
- 学习课程: 多会话交接
- 相关术语: Agent State, Checkpoint, Scope Contract, Progressive Disclosure
HNSW
- 分类: 检索与生成
- 别名: Hierarchical Navigable Small World
- 实际含义: 一种近似最近邻索引,将向量组织为分层的邻近图,并从粗粒度的上层逐步搜索到细粒度的下层。
- 为什么重要: 当穷举比较过慢时,它是让高召回向量搜索在实际规模上可行的常用方法。
- 实际使用: 围绕延迟、内存和 Recall@K 目标调优构建和查询参数;embedding 版本变化时重建索引。
- 常见混淆: HNSW 是索引算法,不是相似度度量、embedding 模型或完整的向量数据库。
- 相关术语: Approximate Nearest Neighbor (ANN), Vector Database, Embedding, Recall@K
- 来源: Efficient and Robust Approximate Nearest Neighbor Search Using HNSW
Human-in-the-Loop (HITL)
- 分类: Agent 与工具
- 别名: Human oversight, human review
- 实际含义: 一种工作流设计:在 AI 驱动流程的既定节点,由人提供判断、纠正、审批或升级处理。
- 为什么重要: 人的参与在高影响、含糊或不可逆的边界最有价值,而不该在每一步之后充当未定义的兜底。
- 实际使用: 让 agent 自动处理常规请求,但将不确定或高价值的情况连同证据和拟议动作一起交给 reviewer。
- 常见混淆: HITL 不会自动让系统安全。reviewer 需要时间、上下文、权限和清晰的决策标准。
- 相关术语: Approval Gate, Verification Gate, Agent, Guardrails
Hybrid Retrieval
- 分类: 检索与生成
- 实际含义: 在合并或重排序结果前,将不同方法的信号结合起来的检索方式,常见组合是词法匹配和稠密向量相似度。
- 为什么重要: 精确标识符、罕见术语和语义改写的表现各不相同,单一检索信号可能遗漏有用证据。
- 实际使用: 同时用 BM25 风格的关键词搜索和 embeddings 检索候选项,合并其排名,再针对用户 query 重排序合并后的集合。
- 常见混淆: Hybrid retrieval 合并的是候选项信号;reranker 会对已检索到的候选项应用第二个相关性模型。
- 学习课程: 高级 RAG
- 相关术语: Semantic Search, Reranker, RAG (Retrieval-Augmented Generation), Embedding
Hyperparameter
- 分类: 数学与训练
- 常见说法: 你要调优的设置。
- 实际含义: 影响模型结构、优化、数据处理或推理的配置选择,而非作为普通模型参数学习得到的值。例如学习率、batch size、层数和 decoding 设置。
- 常见混淆: 有些 hyperparameter 在训练前选定,另一些则可以在训练计划期间或推理时调整。
- 相关术语: Parameter, Learning Rate, Batch Size, Temperature