AI 原生开放教材

外观

AI 工程从零到一（中文）源码研读·中文原文 ↗原件 ↓仓库 ↗

I ​

Idempotency ​

  • 分类: AI-native 开发
  • 实际含义: 使用同一身份重复执行同一操作时，除第一次成功应用外，不会产生额外副作用的特性。
  • 为什么重要: 在分布式 agent 系统中，重试很常见。缺少幂等性时，一次不确定的响应就可能重复付款、评论、部署或创建记录。
  • 实际使用: 为工具请求附加幂等键，并持久化已完成的结果；这样重试会返回该结果，而不是再次执行写入。
  • 常见混淆: 幂等性不表示每个响应都逐字节相同，而是预期的状态变更不会被重复执行。
  • 来源: HTTP Semantics: idempotent methods
  • 相关术语: Retry with Backoff, Durable Execution, Checkpoint

Image Token ​

  • 分类: 多模态系统
  • 实际含义: 模型专用的视觉单元，以向量或离散码表示，通常来自图像 patch、区域或学习得到的视觉码本条目。
  • 为什么重要: 将视觉输入转换成序列后，transformer 风格的组件便能把图像与文本或其他已 token 化的模态一起处理。
  • 实际使用: 记录 token 是连续 patch 还是离散码，保留空间位置信息，测试分辨率和长宽比变化，并在模型输入预算中计入视觉 token。
  • 常见混淆: Image token 不一定对应一个像素、一个物体或固定的物理区域；它的范围由视觉 encoder 或 tokenizer 决定。
  • 学习课程: Vision-Language Models
  • 相关术语: Patch Embedding, Token, VAE (Variational Autoencoder), Vision Transformer (ViT)
  • 来源: Vision Transformer; VQ-VAE

In-Context Learning ​

  • 分类: Prompt 与上下文
  • 实际含义: 模型依据当前输入中提供的指令、示例或模式调整行为，而不进行常规参数更新。
  • 为什么重要: 它说明了同一个预训练模型如何在权重不变的情况下，借助上下文完成新任务。
  • 实际使用: 将有代表性的演示放在目标输入之前，测试顺序和格式的不同变体，并让评估示例与演示示例分离。
  • 常见混淆: In-context learning 是临时条件化，不是微调、持久记忆，也不能证明模型推断出了预期规则。
  • 相关术语: Few-Shot, Zero-Shot, Context Window, Prompt Engineering
  • 来源: Language Models are Few-Shot Learners

Incident Response ​

  • 分类: 可靠性与运维
  • 实际含义: 针对威胁服务、数据、安全性或安保的事件，协同进行检测、分析、遏制、恢复、沟通和复盘学习的过程。
  • 为什么重要: 事件期间，明确的角色和证据比临场逞英雄更重要，尤其是模型行为和分布式依赖会掩盖实际故障边界。
  • 实际使用: 定义严重性分级和指挥角色，保留 trace 与审计记录，停止有害操作，沟通影响，验证恢复，并跟踪纠正工作直到完成。
  • 常见混淆: 事件响应管理事件及其后果；根因分析和长期预防会在服务即时恢复后继续进行。
  • 学习课程: SRE for AI
  • 相关术语: Observability, Audit Log, Postmortem, Availability
  • 来源: Google SRE: Managing Incidents; NIST SP 800-61 Rev. 3

Indirect Prompt Injection ​

  • 分类: 安全与治理
  • 实际含义: 通过系统检索或观察到的内容发起的 prompt injection 攻击，例如网页、文档、邮件、图片文字或工具结果，而非直接通过用户指令传递。
  • 为什么重要: agent 在执行已授权任务时，可能遇到攻击者控制的指令，并误把这类内容当成具有权威的指导。
  • 实际使用: 将外部内容标为不受信任的数据并与指令分开，最小化工具权限，对重要操作要求审批，并在回归测试中加入恶意检索内容。
  • 常见混淆: Indirect 描述的是传递路径，并不意味着攻击更弱。检索内容中隐藏的指令，后果可以和直接用户 prompt 一样严重。
  • 学习课程: Indirect Prompt Injection
  • 相关术语: Prompt Injection, Instruction Hierarchy, Trust Boundary, Data Exfiltration
  • 来源: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection

Inductive Bias ​

  • 分类: 模型与推理
  • 常见说法: 学习系统内置的假设。
  • 实际含义: 偏向某些函数或表示的结构性或统计性假设。卷积偏向局部性和共享过滤器；因果 mask 偏向根据前序位置进行预测。
  • 常见混淆: transformer 依然具有归纳偏置，来自 tokenization、位置处理、mask、架构、数据和目标函数。
  • 相关术语: CNN (Convolutional Neural Network), Transformer, Feature

Inference ​

  • 分类: 模型与推理
  • 常见说法: 运行一个已训练模型。
  • 实际含义: 执行已训练模型来产出预测、评分、嵌入（embedding）或生成的 token，且不对其参数进行常规训练更新。
  • 常见混淆: 即使模型权重保持不变，应用仍可在 inference 期间更新缓存、对话状态或外部记忆。
  • 相关术语: Autoregressive, Streaming, KV Cache

Instruction Following ​

  • 分类: Prompt 与上下文
  • 实际含义: 模型将自然语言指令和给定上下文映射为满足既定任务与约束的行为的能力。
  • 为什么重要: 语言生成可以很流畅，却不一定遵守用户要求的操作、格式、边界或优先级。
  • 实际使用: 使用冲突约束、格式要求、无关上下文和拒答案例，将指令遵循度与答案质量分开评估。
  • 常见混淆: Instruction following 不等于事实正确性、alignment，或服从每一段看起来像指令的字符串。
  • 相关术语: SFT (Supervised Fine-Tuning), Prompt Engineering, Instruction Hierarchy, Alignment
  • 来源: Finetuned Language Models Are Zero-Shot Learners

Instruction Hierarchy ​

  • 分类: Prompt 与上下文
  • 实际含义: 用于化解不同权威来源之间指令冲突的一套规则，例如应用政策、用户和不受信任的检索内容。
  • 为什么重要: Agent 系统将可信目标与外部文本混在一起，因此当低权威内容与高优先级约束冲突时，模型和 harness 需要有明确的应对规则。
  • 实际使用: 将不受信任的工具输出标为数据，把高优先级约束置于该内容之外，并测试直接和间接冲突案例。
  • 常见混淆: Instruction hierarchy 可以改善行为，但并非安全边界；最小权限和审批控制仍会限制后果。
  • 相关术语: System Prompt, Prompt Injection, Least Privilege, Tool Contract
  • 来源: The Instruction Hierarchy

Inter-Token Latency (ITL) ​

  • 分类: 基础设施与服务
  • 实际含义: 单个请求中两个连续输出 token 到达事件之间的经过时间；对第一个 token 之后的输出 token，计算为 t_i - t_(i-1)。
  • 为什么重要: 单次间隔可暴露 decode 卡顿和流式输出抖动；这些问题很容易被按请求计算的平均值掩盖，尤其是在 batch、抢占或混合负载下。
  • 实际使用: 记录每个首 token 后间隔及其请求和 token 位置；再按工作负载、输出长度和并发度报告分布，不要把请求边界混在一起。
  • 常见混淆: ITL 是两个连续 token 之间的一次间隔。Time per output token 是跨越这些间隔的按请求平均值；Time to first token 则覆盖流式输出开始前的等待。
  • 学习课程: Inference Metrics and Goodput
  • 相关术语: Time per Output Token (TPOT), Time to First Token (TTFT), Decode Phase, Tail Latency
  • 来源: DistServe