AI 原生开放教材

外观

AI 工程从零到一（中文）源码研读·中文原文 ↗原件 ↓仓库 ↗

A ​

Activation Checkpointing ​

  • 分类: 数学与训练
  • 实际含义: 一种训练显存优化技术：只保存部分前向传播激活值，在反向传播时重新计算未保存的激活值。
  • 为什么重要: 它通过用额外计算换取更少的激活值存储，使你能在固定显存预算内训练更大的模型或更长的序列。
  • 实际使用: 对占显存较多的 transformer block 做 checkpoint，测量每步额外耗时，并将故障恢复 checkpoint 与激活值重算配置分开管理。
  • 常见混淆: Activation checkpointing 不是用于持久化训练状态的 checkpoint。它帮助一次前向和反向传播装进内存，却不能在运行崩溃后恢复训练。
  • 相关术语: Autograd, Backpropagation, Checkpoint, Mixed Precision
  • 来源: Training Deep Nets with Sublinear Memory Cost

Activation Function ​

  • 分类: 数学与训练
  • 常见说法: 层与层之间的非线性运算。
  • 实际含义: 在线性层或仿射层之后应用的函数，用于引入非线性。没有它，带权重和偏置的多层组合会退化为一次仿射变换。ReLU、GELU 和 SiLU 都是常见选择。它的选择会直接影响训练期间梯度能否顺畅传播。
  • 学习课程: Activation Functions
  • 相关术语: ReLU, Gradient, Backpropagation

Adam (Optimizer) ​

  • 分类: 数学与训练
  • 常见说法: 不假思索就会用的优化器。
  • 实际含义: Adaptive Moment Estimation。它将梯度的指数滑动平均与梯度平方的指数滑动平均结合起来，进行偏差校正，并为每个参数自适应调整更新尺度。它是一个有用的基线，但仍需要合适的学习率和调度策略。
  • 常见混淆: Adam 是很强的基线，并不是放之四海皆准的最佳优化器。
  • 来源: Adam paper
  • 相关术语: AdamW, Optimizer, Learning Rate

AdamW ​

  • 分类: 数学与训练
  • 常见说法: 修正了 weight decay 的 Adam。
  • 实际含义: Adam 的一种变体，将 weight decay 与基于梯度的参数更新解耦。相比在 Adam 经自适应缩放的梯度中加入 L2 惩罚，这让参数收缩行为更容易理解。
  • 常见混淆: 解耦的 weight decay 并不意味着 AdamW 总是最优。模型、数据和训练规模仍会决定最佳的优化器与调度策略。
  • 来源: Decoupled Weight Decay Regularization
  • 相关术语: Adam (Optimizer), Weight Decay, Optimizer

Admission Control ​

  • 分类: 可靠性与运维
  • 实际含义: 在请求被接收前进行的准入闸门；它依据系统当前的容量、优先级和策略，决定请求是否可以进入容量受限的队列或服务。
  • 为什么重要: 在可控边界拒绝过量工作，能保护已准入请求免受队列增长、超时级联和资源耗尽的影响。
  • 实际使用: 估算请求成本，检查租户和系统容量，原子地预留所需预算；拒绝时明确哪个范围过载。只有在条件暂时存在且调用方重试预算允许时，才提供重试指引。
  • 常见混淆: Admission control 在接收前起作用。Load shedding 则可在入口、队列、依赖或其他过载边界拒绝或移除工作。
  • 相关术语: Load Shedding, Backpressure, Rate Limit, Saturation
  • 来源: Google SRE: Handling Overload

Agent ​

  • 分类: Agent 与工具
  • 常见说法: 能独自思考和行动的自主模型。
  • 实际含义: 一种软件系统，让模型为达成目标选择行动、观察工具或环境结果，并在编排策略下继续执行。Agent 可以使用循环、状态机、工作流引擎或人工审批；模型只是其中一个组件，并非整个系统。
  • 为什么重要: 可靠性来自模型周围的 harness、工具契约、状态、权限和验证机制。
  • 实际使用: 一个编程 agent 会读取仓库上下文、提出补丁、在沙箱中运行测试，并在部署前停下来等待审批。
  • 常见混淆: 自主性是委托权限的程度，并非每个 agent 都必须具备的属性。
  • 学习课程: The Agent Loop
  • 相关术语: Agent Harness, Agent State, Tool Contract, Human-in-the-Loop (HITL)

Agent Harness ​

  • 分类: Agent 与工具
  • 实际含义: 模型周围的运行时，负责组装上下文、暴露工具、管理状态、施加限制、记录 trace，并决定 agent 应继续、重试、提问还是停止。
  • 为什么重要: 即使使用同一个模型，两个系统的表现也可能大相径庭，因为它们的 harness 提供了不同的上下文、工具、反馈与安全边界。
  • 实际使用: 你的 harness 可以限制一个 agent 最多进行五次工具调用，在每个被接受的补丁后持久化 checkpoint，并要求完成前通过指定测试命令。
  • 常见混淆: harness 的范围比 prompt 模板更大，但比完整产品更小。
  • 学习课程: Minimal Agent Workbench
  • 相关术语: Agent, Tool Contract, Agent State, Verification Gate, Sandbox

Agent Memory ​

  • 分类: Agent 与工具
  • 实际含义: 存储在模型外部、供后续 agent 步骤按需选取的信息，例如既往决策、用户偏好、任务过程片段或已验证事实。
  • 为什么重要: 它让 agent 在一个上下文窗口之外仍能保持连续性，而不必把所有历史事件都塞进每个 prompt。
  • 实际使用: 保存带来源的精简任务结果，仅在相关时检索，并允许用户查看或更正持久化的个人信息。
  • 常见混淆: Agent memory 不等同于 agent state。State 跟踪当前运行，memory 则保存供未来运行选择性使用的信息。
  • 相关术语: Agent State, Context Engineering, Checkpoint, Semantic Cache
  • 来源: Generative Agents

Agent State ​

  • 分类: Agent 与工具
  • 实际含义: agent 跨步骤携带的显式数据，例如当前目标、已完成操作、工具结果、待解决问题、预算、审批和产物引用。
  • 为什么重要: 显式 state 能让长任务可恢复、可检查，也更少依赖模型从对话记录中重建进度。
  • 实际使用: 在一个类型化对象中保存已选择的 issue、修改过的文件、最新测试结果和剩余检查项，并在每次操作后更新它。
  • 常见混淆: State 不等同于对话历史。记录是证据；state 是用于决定下一步做什么的精简运行记录。
  • 学习课程: Repository Memory and State
  • 相关术语: Checkpoint, Durable Execution, Context Engineering, Handoff

AI Risk Assessment ​

  • 分类: 安全与治理
  • 实际含义: 对 AI 系统如何影响个人、组织和环境所做的文档化分析，包括背景、危害、可能性、影响、控制措施、剩余风险和监测职责。
  • 为什么重要: 模型能力本身并不能决定风险。部署背景、受影响群体、人工权限、数据和系统集成都会改变危害与控制措施。
  • 实际使用: 明确预期用途和受影响方，识别可信的失效与滥用场景，为控制措施指定负责人，记录剩余风险，并为重大变更设置复审触发条件。
  • 常见混淆: 风险评估是在既定假设下支持决策的依据，不是一次性的安全证书，也不能证明已找出所有危害。
  • 相关术语: Threat Model, Guardrails, Human-in-the-Loop (HITL), Data Classification
  • 来源: NIST AI Risk Management Framework

Alignment ​

  • 分类: 评估与安全
  • 常见说法: 让 AI 变得安全。
  • 实际含义: 让模型或 AI 系统在预期和对抗性情境中，都以符合既定目标、约束与人类偏好的方式行动的工作。
  • 为什么重要: 系统可能优化了已声明的指标，却违背用户真正的意图。因此 alignment 除了模型训练，还需要评估、监督和系统控制。
  • 相关术语: Guardrails, Evaluation (Eval), Human-in-the-Loop (HITL)

Approval Gate ​

  • 分类: Agent 与工具
  • 实际含义: 一个控制点，在获得授权人员或策略许可前阻止执行具有重要后果的操作。
  • 为什么重要: 它在保留可逆工作自动化的同时，限制不确定模型决策的影响范围。
  • 实际使用: 可以让 agent 起草数据库迁移并在一次性数据库中运行，但生产执行必须由负责人审批。
  • 常见混淆: Approval gate 关注操作是否已获授权；verification gate 关注证据是否表明操作正确。
  • 学习课程: Verification Gates
  • 相关术语: Human-in-the-Loop (HITL), Verification Gate, Least Privilege

Approximate Nearest Neighbor (ANN) ​

  • 分类: 检索与生成
  • 实际含义: 一种搜索方法，无需将查询与所有已存向量逐一比较，就能返回很可能位于查询近邻之列的向量。
  • 为什么重要: 近似使大规模向量索引得以实用化，但也引入了搜索速度、内存和检索召回率之间可量化的权衡。
  • 实际使用: 在留出的查询集上调优索引和搜索参数，然后同时报告延迟与 Recall@K，而不是假设所有真实近邻都被找到了。
  • 常见混淆: ANN 描述的是搜索目标及其权衡；HNSW 是实现这一目标的一种特定索引算法。
  • 相关术语: Vector Database, HNSW, Cosine Similarity, Recall@K
  • 来源: Efficient and Robust Approximate Nearest Neighbor Search Using HNSW

Attention ​

  • 分类: 模型与推理
  • 常见说法: 模型如何聚焦重要 token。
  • 实际含义: 一种机制：通过比较 query 向量与 key 向量形成上下文化表示，对得到的分数归一化，再据此组合 value 向量。mask、位置规则或稀疏模式可以限制哪些位置参与其中。
  • 为什么重要: Attention 让模型能在序列位置之间路由信息，但它本身并不能解释或证明模型理解了什么。
  • 常见混淆: Attention 权重是计算系数，并不是对模型推理过程的忠实解释。
  • 学习课程: Self-Attention from Scratch
  • 来源: Attention Is All You Need
  • 相关术语: Self-Attention, Transformer, KV Cache

Audio Token ​

  • 分类: 多模态系统
  • 实际含义: 由音频 codec 或分词器为音频信号的短片段或特征生成的离散标识符，有时会跨多个 codebook。
  • 为什么重要: 离散音频表示让序列模型能以面向 token 的架构处理、预测、存储或生成声音。
  • 实际使用: 将 codec 与模型一同版本化，保留采样率和 codebook 元数据，测量重建质量，并区分语义 audio token 与波形压缩 token。
  • 常见混淆: audio token 并非固定时长、音素或单词；其含义和时间跨度取决于分词器与 codebook 设计。
  • 学习课程: Neural Audio Codecs
  • 相关术语: Token, Embedding, Automatic Speech Recognition (ASR), Multimodal Model
  • 来源: SoundStream

Audit Log ​

  • 分类: 安全与治理
  • 实际含义: 一份持久化且受访问控制的记录，用于记载与安全或问责相关的事件，包括谁或什么执行了操作、改变了什么、何时发生，以及最终状态。
  • 为什么重要: 具有重要后果的 agent 操作需要可供调查、策略审查和责任追溯的证据，而不只是性能调试信息。
  • 实际使用: 记录工具授权、审批决策、外部写入、策略版本和产物标识符，同时对敏感信息脱敏并限制日志访问。
  • 常见混淆: trace 有助于诊断一条执行路径；audit log 则保存跨执行、长期问责所需的事件。
  • 相关术语: Trace, Observability, Approval Gate, Provenance Attestation
  • 来源: NIST SP 800-92

Autograd ​

  • 分类: 数学与训练
  • 常见说法: 自动计算梯度。
  • 实际含义: 一种记录或转换 tensor 操作以计算导数的系统，通常采用反向模式自动微分。你只需写前向计算，框架会推导反向传播所需的梯度。
  • 学习课程: Chain Rule and Automatic Differentiation
  • 相关术语: Backpropagation, Gradient, Tensor

Automatic Speech Recognition (ASR) ​

  • 分类: 多模态系统
  • 实际含义: 将语音信号映射为转录文本的任务及系统流水线，通常还可提供 token 或片段的时间戳与置信度信息。
  • 为什么重要: 语音界面不只依赖语言建模。声学变化、分段、解码、词表和领域条件都会影响最终转录结果。
  • 实际使用: 按语言、说话人、噪声和领域评估字词错误率；当下游需要依据时间定位时保留时间戳，并测试生产环境实际使用的音频预处理流程。
  • 常见混淆: ASR 转录说了什么。判断是谁在说话则需要 diarization 或 speaker recognition；翻译和意图理解是另外的任务。
  • 学习课程: Speech Recognition and ASR
  • 相关术语: Audio Token, Encoder, Tokenization, Multimodal Model
  • 来源: Connectionist Temporal Classification

Autoregressive ​

  • 分类: 模型与推理
  • 常见说法: 模型一次生成一个词。
  • 实际含义: 一种分解方式：每个输出 token 都根据其之前的 token 进行预测。生成时，选出的 token 会追加到序列中，成为下一次预测的上下文。
  • 常见混淆: 单位是 token，不一定是词；生成也可以采用并非始终选取最高概率 token 的解码方法。
  • 相关术语: Token, Temperature, KV Cache

Autoscaling ​

  • 分类: 基础设施与服务
  • 实际含义: 一个控制循环，在配置边界内根据观测到的需求、资源使用情况或应用指标，调整服务工作进程的数量或容量。
  • 为什么重要: AI 工作负载的变化可能快过人工调配，但扩缩容决策必须考虑模型加载时间、加速器可用性、排队情况和请求成本。
  • 实际使用: 依据与有效工作关联的需求信号扩缩容，设置最小预热容量，限制缩容抖动，并确认新副本通过 readiness 检查后再接收流量。
  • 常见混淆: Autoscaling 是增加或减少容量，并不会让过载的依赖变快，也不能保证能及时获得足够的硬件。
  • 学习课程: GPU Autoscaling on Kubernetes
  • 相关术语: Model Serving, Saturation, Readiness Probe, Backpressure
  • 来源: Kubernetes Horizontal Pod Autoscaling

Availability ​

  • 分类: 可靠性与运维
  • 实际含义: 在已声明的测量边界内，用户能够获得定义好的可接受服务的合格服务交互或时间窗口所占比例。
  • 为什么重要: 服务进程在运行时，用户仍可能无法完成有效请求，因此可用性必须与用户可见的成功结果绑定，而不是只看进程存活时间。
  • 实际使用: 定义合格事件和可接受结果，只排除有文档依据的情形，在固定窗口内计算指标，并调查总体故障和持续的部分降级。
  • 常见混淆: Availability 只是一个可靠性结果，并不描述延迟、正确性、安全性或每个用户群体的体验。
  • 相关术语: Service Level Indicator (SLI), Service Level Objective (SLO), Error Budget, Incident Response
  • 来源: Google SRE: Service Level Objectives