AI 原生开放教材

外观

AI 工程从零到一（中文）源码研读·中文原文 ↗原件 ↓仓库 ↗

E ​

Early Fusion ​

  • 分类: 多模态系统
  • 实际含义: 在大部分特定任务建模开始前，就将多种模态的原始表示或低层表示合并起来。
  • 为什么重要: 早期交互能呈现细粒度的跨模态关系，但也要求表示彼此兼容，并谨慎处理对齐问题和缺失输入。
  • 实际使用: 将每种模态转为已定义的 token 或特征表示，保留来源与位置标记，在共享 backbone 之前融合，并与单模态和晚期融合基线比较。
  • 常见混淆: Early fusion 描述的是架构中各路信息流在何处合并，并不保证模型能学到有用的模态对齐。
  • 学习课程: Chameleon 的早期融合 token
  • 相关术语: Late Fusion, Multimodal Fusion, Modality Alignment, Token
  • 来源: Chameleon: Mixed-Modal Early-Fusion Foundation Models; Multimodal Machine Learning: A Survey and Taxonomy

Eigenvalue ​

  • 分类: 数学与训练
  • 常见说法: PCA 中使用的一种矩阵属性。
  • 实际含义: 描述线性变换如何缩放对应非零特征向量、同时不改变其方向的标量。在协方差矩阵的 PCA 中，较大的特征值对应方差更大的方向。
  • 相关术语: Tensor, Feature, Latent Space

Embedding ​

  • 分类: 数据与表示
  • 常见说法: 表示语义的向量。
  • 实际含义: 将离散项（词语、图像、用户）映射到连续空间中稠密向量的学习结果；相似项通常会靠得更近。
  • 常见混淆: 相似性取决于模型、训练目标和度量方法。一个 embedding 空间中的距离不能直接迁移到另一个空间。
  • 名称由来: 这些项目被放置，或说嵌入到一个几何表示空间中。
  • 学习课程: 嵌入（Embedding）
  • 相关术语: Cosine Similarity, Semantic Search, Vector Database

Encoder ​

  • 分类: 模型与推理
  • 常见说法: 模型的输入端。
  • 实际含义: 将输入转换为某种表示的组件。transformer encoder 通常使用非因果 self-attention，并受可能存在的 mask 约束，因此每个位置都可融合整个输入中的上下文。
  • 常见混淆: 尽管 encoder-only 模型通常不用于自回归文本生成，它们仍可通过任务头产生输出。
  • 相关术语: Decoder, Transformer, Embedding

Epoch ​

  • 分类: 数学与训练
  • 常见说法: 对训练数据完整遍历一次。
  • 实际含义: 对已定义训练数据集的一次遍历。在分布式训练或采样训练中，epoch 的精确定义取决于数据加载器和采样策略。
  • 常见混淆: 更多 epoch 不保证泛化更好；应在留出数据上评估。
  • 相关术语: Batch Size, Overfitting, Eval Set

Error Budget ​

  • 分类: 可靠性与运维
  • 实际含义: 在服务级别目标的度量窗口内，目标耗尽前允许发生的服务失败量。
  • 为什么重要: 它为可靠性工作和产品工作提供共同的决策边界：尚有余额时团队可以用它推动变更；用户可见失败消耗预算时则需要放缓风险。
  • 实际使用: 从 SLO 推导预算，按原因和用户群体跟踪消耗速率，在耗尽前定义发布动作，并避免在事故后重置账目。
  • 常见混淆: Error budget 不是制造事故的配额，而是从面向用户的可靠性目标推导出的运行策略。
  • 相关术语: Service Level Objective (SLO), Service Level Indicator (SLI), Availability, Incident Response
  • 来源: Google SRE Workbook: Error Budget Policy

Eval Set ​

  • 分类: 评估与安全
  • 别名: Evaluation set
  • 实际含义: 一组有版本控制的输入、预期属性、评分规则和元数据，用于衡量 AI 系统针对特定能力或风险的表现。
  • 为什么重要: 可重复使用的集合能将模糊的质量主张转化为可比较的证据，并在 prompt、模型、工具或检索变化后捕捉回归。
  • 实际使用: 将有代表性的客服问题、对抗性指令、预期引用和失败标签保存在经过评审的数据集中，并与开发示例分开。
  • 常见混淆: 开发 eval 用于指导迭代；最终留出测试在决策固定后估计性能；标准化 benchmark 则支持在共享协议下进行比较。反复针对任何留出集合调优都会泄露测试信息并夸大结果。
  • 学习课程: 评估驱动的 Agent 开发
  • 相关术语: Evaluation (Eval), Regression Test, LLM-as-a-Judge, Verification Gate

Evaluation (Eval) ​

  • 分类: 评估与安全
  • 别名: Eval
  • 实际含义: 使用明确的成功标准、数据、评分器和审查程序，在代表性任务上衡量模型或系统行为的既定过程。
  • 为什么重要: 如果成功只是来自少量演示的主观印象，就无从提升可靠性。
  • 实际使用: 修改检索前后运行同一批客服场景，评估正确性和引用支撑情况，并按类别检查失败。
  • 常见混淆: benchmark 分数只是一次评估结果，并不能完整反映生产质量。
  • 学习课程: LLM 评估
  • 相关术语: Eval Set, LLM-as-a-Judge, Cost per Successful Task, Regression Test

Exact Match (EM) ​

  • 分类: 评估与安全
  • 实际含义: 仅当输出经归一化后的表示与某个可接受的参考答案完全相等时，才将其计为正确的一种指标。
  • 为什么重要: 对只有一个标准答案的任务，它具有确定性且易于审计；但不会提供部分得分。
  • 实际使用: 在评估前定义归一化规则和全部可接受的参考答案；当多个输出都可能有效时，再搭配任务专用检查。
  • 常见混淆: 较低的 exact-match 分数可能只是无害的格式差异，而字符串一致的输出在上下文中仍可能缺乏支撑或不安全。
  • 相关术语: ROUGE, Eval Set, Structured Output, Pass@k
  • 来源: SQuAD

Expert Parallelism ​

  • 分类: 基础设施与服务
  • 实际含义: 将 mixture-of-experts 子网络分布到不同设备上，并把每个 token 的激活路由到承载其选中 expert 的设备。
  • 为什么重要: 稀疏 expert 能在不为每个 token 执行所有 expert 的情况下扩大模型容量，但路由会引入通信、负载均衡和部署约束。
  • 实际使用: 测量各 expert 的 token 分布，配置通信带宽，有意识地限制或路由溢出请求，并测试流量造成 expert 需求不均时的质量。
  • 常见混淆: Expert parallelism 划分的是由 router 选中的 expert；tensor parallelism 划分的是层内的 tensor 运算。
  • 学习课程: Mixture of Experts
  • 相关术语: MoE (Mixture of Experts), Tensor Parallelism, Pipeline Parallelism, Model Serving
  • 来源: GShard