AI 原生开放教材

外观

AI 工程从零到一（中文）源码研读·中文原文 ↗原件 ↓仓库 ↗

G ​

GAN (Generative Adversarial Network) ​

  • 分类: 模型与推理
  • 常见说法: 两个神经网络在训练时相互竞争。
  • 实际含义: generator 网络尝试生成逼真的数据，discriminator 网络则尝试辨别真实数据和伪造数据。两者共同训练：generator 更擅长欺骗 discriminator，discriminator 也更擅长识别伪造内容。
  • 相关术语: Loss Function, Latent Space, Diffusion Model

Goodput ​

  • 分类: 基础设施与服务
  • 实际含义: 在已声明的工作负载下，同时满足首 token 时间和逐 token 延迟等已定义服务约束的完成请求速率。
  • 为什么重要: 原始吞吐量可能上升，用户却要面对更多慢请求。Goodput 只计算满足服务契约的工作。
  • 实际使用: 明确请求分布和延迟阈值，只统计合规完成，汇总速率旁报告百分位数，并避免在目标不同的系统之间直接比较。
  • 常见混淆: Goodput 不是全部已完成吞吐量，也不是模型的通用属性。它取决于工作负载和成功阈值。
  • 学习课程: 推理指标与 Goodput
  • 相关术语: Service Level Objective (SLO), Time to First Token (TTFT), Time per Output Token (TPOT), Cost per Successful Task
  • 来源: DistServe

GPT ​

  • 分类: 模型与推理
  • 常见说法: 任意聊天机器人的通称。
  • 实际含义: Generative Pre-trained Transformer，是一类生成式 transformer 模型的家族标签：先以序列预测目标进行预训练，再针对下游用途进行适配。产品名和模型架构不能视作同义词。
  • 名称由来: Generative 指生成输出，pre-trained 指最初的广泛训练阶段，transformer 指所属架构家族。
  • 相关术语: Transformer, Autoregressive, LLM (Large Language Model)

Graceful Degradation ​

  • 分类: 可靠性与运维
  • 实际含义: 当容量或依赖受损时，通过降低可选质量、功能、新鲜度或工作负载来保留有界的核心服务，而不是让每个请求都失败。
  • 为什么重要: AI 系统常依赖多个缓慢或易出错的组件，因此明确的降级模式能在局部故障时保护关键用户结果。
  • 实际使用: 预先定义哪些能力可以禁用，让操作人员可见降级模式，保护安全检查，在依赖故障下测试回退路径，并有意恢复完整服务。若正确性、安全性、新鲜度或已承诺契约发生实质变化，应告知用户。
  • 常见混淆: Graceful degradation 不是悄悄返回更差的答案、却假装什么也没发生。操作人员始终需要可见性；降级模式实质改变结果或服务契约时，用户也需要被告知。
  • 学习课程: 生产级 LLM 应用
  • 相关术语: Circuit Breaker, Load Shedding, Model Router, Availability
  • 来源: Google SRE: Addressing Cascading Failures

Gradient ​

  • 分类: 数学与训练
  • 常见说法: 损失的斜率。
  • 实际含义: 由偏导数组成、指向最陡上升方向的向量。在机器学习中，为最小化损失，需要沿梯度反方向进行梯度下降。
  • 常见混淆: Optimizer 可以变换、平均、裁剪或自适应调整梯度，而不是简单沿负梯度迈一步。
  • 相关术语: Backpropagation, Gradient Descent, Optimizer

Gradient Accumulation ​

  • 分类: 数学与训练
  • 实际含义: 在执行一次 optimizer 更新之前，对多个 microbatch 的梯度求和或平均。
  • 为什么重要: 当单个设备容纳不下所有样本和激活值时，它能近似更大的有效 batch。
  • 实际使用: 一致地缩放损失，仅在选定数量的 microbatch 之后调用 optimizer，并测量归一化或分布式同步是否改变了行为。
  • 常见混淆: Gradient accumulation 会减少每步的激活内存，但不能复现同时处理完整 batch 的全部性质。
  • 相关术语: Batch Size, Mixed Precision, Optimizer, Backpropagation
  • 来源: PyTorch AMP examples: Gradient accumulation

Gradient Clipping ​

  • 分类: 数学与训练
  • 实际含义: 在梯度值或其合并范数超过选定阈值时，于 optimizer 更新前对其进行限制。
  • 为什么重要: 它能避免异常大的梯度破坏某个训练步骤，并产生非有限值。
  • 实际使用: 记录未裁剪的范数，在对 mixed-precision 梯度取消缩放后再裁剪，并调查反复发生的裁剪，不要把它当作回避不稳定性诊断的手段。
  • 常见混淆: 裁剪控制的是更新幅度，无法修复无效数据、损坏的损失函数或持续不合适的学习率。
  • 相关术语: Gradient, NaN (Not a Number), Mixed Precision, Learning Rate
  • 来源: On the difficulty of training recurrent neural networks

Gradient Descent ​

  • 分类: 数学与训练
  • 常见说法: 在损失曲面上向下走。
  • 实际含义: 一类优化更新方法，使用目标函数的负梯度移动参数，通常基于 batch 估计，而非整个数据集。
  • 相关术语: Gradient, Learning Rate, Optimizer

Grounding ​

  • 分类: 检索与生成
  • 实际含义: 将生成的回答或动作与系统能够识别并检查的证据、状态或观测结果关联起来。
  • 为什么重要: Grounding 让系统有了不受约束生成之外的依据，也更容易发现缺乏支撑的主张。
  • 实际使用: 检索一段政策内容，要求回答引用它，并拒绝那些引用段落无法支撑的主张。
  • 常见混淆: 往 prompt 里加入文档创造了 grounding 的机会，并不保证模型会正确使用这些文档。
  • 学习课程: 检索增强生成
  • 相关术语: RAG (Retrieval-Augmented Generation), Hallucination, Verification Gate, Reranker

Guardrails ​

  • 分类: 评估与安全
  • 常见说法: 模型周围的安全过滤器。
  • 实际含义: 用于约束输入、工具使用、输出、权限和升级处理的系统控制措施，可能包括 schema、策略检查、分类器、允许列表、sandbox、审批和操作后验证。
  • 为什么重要: 没有任何单一过滤器能覆盖所有失效模式，因此控制措施应按风险分层。
  • 常见混淆: Guardrails 能降低风险，但不能证明 AI 系统安全。
  • 学习课程: Guardrails
  • 相关术语: Least Privilege, Approval Gate, Sandbox, Evaluation (Eval)