AI 原生开放教材

外观

AI 工程从零到一（中文）源码研读·中文原文 ↗原件 ↓仓库 ↗

R ​

RAG (Retrieval-Augmented Generation) ​

  • 分类: 检索与生成
  • 常见说法: 模型基于检索到的知识回答。
  • 实际含义: 一种系统模式：先检索与请求相关的证据，再将选定内容提供给生成模型，由它进行回答或执行操作。检索可采用词法、向量、结构化或混合方法。
  • 为什么重要: RAG 能提供最新或私有的证据，而无需把它们编码进模型权重；不过仍应将检索质量与 grounding 分开评估。
  • 名称由来: Retrieval 负责找到证据，augmentation 将选定证据加入上下文，generation 则产出响应。
  • 学习课程: Retrieval-Augmented Generation
  • 来源: Retrieval-Augmented Generation paper
  • 相关术语: Grounding, Hybrid Retrieval, Reranker, Hallucination

Rate Limit ​

  • 分类: AI-native 开发
  • 实际含义: 一项策略：在规定的时间或容量窗口内，对请求数、token 数、并发工作量或其他资源设置上限。
  • 为什么重要: 它能保护 provider 和你自己的系统免受过载、失控支出及不公平资源使用的影响。
  • 实际使用: 按租户实施 token 和并发限制，读取 provider 的重试元数据，并以可预测的方式将超额工作排队或拒绝。
  • 常见混淆: Rate limit 控制允许的使用量；backpressure 则把下游容量约束向系统上游传递。
  • 相关术语: Backpressure, Retry with Backoff, Circuit Breaker

ReAct ​

  • 分类: Agent 与工具
  • 实际含义: 一种 agent 模式：在决定下一步前，交替进行任务推理、具体行动，以及接收环境返回的观察结果。
  • 为什么重要: 环境反馈能纠正假设，并为后续决策提供依据，无需迫使模型仅靠内部生成完成整个任务。
  • 实际使用: 提供一小组类型明确的工具，返回简洁的观察结果，限制循环次数，并验证最终产物，而不是保存私有推理轨迹。
  • 常见混淆: ReAct 是一种 prompting 和控制模式，不保证自主性、正确性或安全的工具使用。
  • 相关术语: Agent, Function Calling, Planning, Grounding
  • 来源: ReAct

Readiness Probe ​

  • 分类: 可靠性与运维
  • 实际含义: 一项诊断，用来告知流量路由层某个服务实例当前是否能够接收请求。
  • 为什么重要: 进程仍存活时，模型可能尚未加载、依赖可能不可用，或预热尚未完成；过早导入流量会带来本可避免的失败。
  • 实际使用: 检查服务所需的最小依赖，在启动和排空流量期间让 readiness 失败，保持探针轻量，并且不要只因 readiness 为 false 就重启进程。
  • 常见混淆: Readiness 决定是否可接收流量；liveness 决定进程是否应被重启，两者都不能证明每个模型响应都正确。
  • 学习课程: Production LLM Application
  • 相关术语: Autoscaling, Model Serving, Availability, Graceful Degradation
  • 来源: Kubernetes Liveness, Readiness, and Startup Probes

Recall@K ​

  • 分类: 检索与生成
  • 实际含义: 对单个查询，Recall@K 为 |relevant items intersecting the top k| / |relevant items|。数据集得分则按声明的规则聚合各查询的该数值。
  • 为什么重要: 它衡量检索阶段是否为下游生成或 reranking 提供了足够多的相关候选。
  • 实际使用: 定义相关性标注、k 值、聚合方法以及没有已标注相关项查询的处理策略，再检查没有召回证据的查询。
  • 常见混淆: 高 Recall@K 不代表首个结果足够好、排序合理，或最终答案有 grounding。没有相关项的查询需要明确采用排除或赋值策略，因为分母为零。
  • 相关术语: Precision & Recall, Eval Set, Reranker, Approximate Nearest Neighbor (ANN)
  • 来源: BEIR

Reciprocal Rank Fusion (RRF) ​

  • 分类: 检索与生成
  • 实际含义: 一种排序融合方法：对每个条目在各个结果列表中的随名次下降的贡献求和，从而组合多个结果列表。
  • 为什么重要: 它能合并词法、dense 或多查询排序，而无需假设各自的原始分数使用同一尺度。
  • 实际使用: 检索彼此独立的候选列表，按稳定的文档标识去重，应用一个有版本管理的融合常数，并相对每个单独 retriever 进行评估。
  • 常见混淆: RRF 融合的是排名，不是 embedding 或相关性分数；它无法找回所有输入中都未出现的条目。
  • 相关术语: Hybrid Retrieval, BM25, Dense Retrieval, Reranker
  • 来源: Reciprocal Rank Fusion Outperforms Condorcet and Individual Rank Learning Methods

Red Teaming ​

  • 分类: 安全与治理
  • 实际含义: 一种结构化对抗测试过程：经授权的测试人员依据已记录的目标、威胁假设、案例和证据来寻找失败。
  • 为什么重要: 常规质量测试很少会探索系统在操纵、滥用、目标冲突或蓄意绕过控制时的行为。
  • 实际使用: 从威胁模型推导攻击，在隔离环境中执行，记录可复现案例，按层修复，并将已确认的失败转化为回归评估。
  • 常见混淆: 一组 jailbreak prompt 不是完整的 red-team 项目，red teaming 也无法证明不存在未知失败。
  • 相关术语: Threat Model, Guardrails, Prompt Injection, Eval Set
  • 来源: Red Teaming Language Models with Language Models

Regression Test ​

  • 分类: AI-native 开发
  • 实际含义: 一项可重复执行的检查，用于保护已知正确的行为，尤其是在代码、prompt、模型、检索或工具发生变化之后。
  • 为什么重要: AI 系统的改动可能提升平均质量，却悄然重新引入先前已修复的故障。
  • 实际使用: 将一次已修复的 prompt-injection 事故变成永久评估案例，在下次部署前必须通过。
  • 常见混淆: Regression test 保护特定的预期行为；广泛 benchmark 估计的是更宽任务分布上的表现。
  • 学习课程: Eval-Driven Agent Development
  • 相关术语: Eval Set, Verification Gate, Patch, Evaluation (Eval)

ReLU ​

  • 分类: 数学与训练
  • 常见说法: 一个简单的 activation function。
  • 实际含义: Rectified Linear Unit，定义为 f(x) = max(0, x)。它计算成本低，正半轴不饱和；但负半轴梯度为零，可能产生失活单元。
  • 相关术语: Activation Function, Gradient, CNN (Convolutional Neural Network)

Repository Instructions ​

  • 分类: AI-native 开发
  • 实际含义: 受版本控制的指引，说明 coding agent 应如何理解仓库组织、适用哪些命令和约定、需遵守哪些边界，以及如何验证工作。
  • 为什么重要: 它把反复传递的隐性知识变成随代码流转的本地上下文，并可以针对不同子项目有所区别。
  • 实际使用: 在仓库根目录保留 AGENTS.md，为子目录添加更细粒度的文件，并写明构建、测试、生成文件、安全和贡献方面的准确规则。
  • 常见混淆: Repository instructions 是对源代码和人工文档的补充；它们不会覆盖用户当前请求，也不保证 agent 会正确遵循。
  • 相关术语: Repository Map, Scope Contract, Coding Agent, Progressive Disclosure
  • 来源: AGENTS.md specification

Repository Map ​

  • 分类: AI-native 开发
  • 实际含义: 对仓库重要目录、所有权边界、入口点、构建命令、测试、生成文件和本地指引的紧凑且持续维护的说明。
  • 为什么重要: 它帮助 coding agent 在加载大文件或编辑错误子系统之前，先找到正确的证据。
  • 实际使用: 从目录树和 manifest 生成索引，再用模块边界和验证命令的权威说明加以补充。
  • 常见混淆: 原始文件树只展示名称；repository map 解释哪些路径重要，以及它们与任务的关系。
  • 学习课程: Repository Memory and State
  • 相关术语: Coding Agent, Progressive Disclosure, Scope Contract, Context Engineering

Reproducible Build ​

  • 分类: AI-native 开发
  • 实际含义: 一种构建：其声明的源码、环境和指令可被独立复现，并产出逐 bit 相同的指定产物。
  • 为什么重要: 它让产物能够在原始机器或 agent 之外被验证，并暴露隐藏的构建输入。
  • 实际使用: 固定 toolchain 和依赖，消除时间戳与不稳定排序，记录环境，然后比较独立重建产物的摘要。
  • 常见混淆: 一次构建连续成功两次只说明其具有可重复性的证据；可复现性要求满足声明的独立条件且输出完全相同。
  • 相关术语: Repository Instructions, Verification Gate, Provenance Attestation, Software Bill of Materials (SBOM)
  • 来源: Reproducible Builds definition

Reranker ​

  • 分类: 检索与生成
  • 实际含义: 一种第二阶段模型或评分函数，利用查询与每个候选之间更丰富的比较，对小规模候选集重新排序。
  • 为什么重要: 快速的第一阶段检索最大化候选覆盖面，而 reranking 能改善哪些证据进入受限的上下文窗口。
  • 实际使用: 用混合检索召回 50 个候选，以 cross-encoder 对每组查询—文档对评分，并向 generation 提供前 5 个有依据的 chunk。
  • 常见混淆: Reranker 不会搜索整个语料库；它只重排检索阶段已经找到的候选。
  • 相关术语: Hybrid Retrieval, Semantic Search, RAG (Retrieval-Augmented Generation)

Retry Budget ​

  • 分类: 可靠性与运维
  • 实际含义: 对重试流量设置的上限，通常相对于原始请求或在一个时间窗口内表达，用以防止重试无限消耗容量。
  • 为什么重要: 当依赖变慢或失败时，无限制重试恰好会在系统余量最少的时候放大负载。
  • 实际使用: 将重试与首次尝试分别计数，按服务和租户设上限，遵守 deadline，使用带 jitter 的 backoff，并停止重试非瞬态或非幂等操作。
  • 常见混淆: Retry budget 限制额外尝试次数；error budget 衡量 SLO 允许的用户可见不可靠性。
  • 相关术语: Retry with Backoff, Error Budget, Rate Limit, Admission Control
  • 来源: Google SRE: Addressing Cascading Failures

Retry with Backoff ​

  • 分类: AI-native 开发
  • 实际含义: 在逐步延长的延迟后重试失败的瞬态操作，通常使用随机 jitter，并设定严格的重试上限。
  • 为什么重要: 立即发起同步重试会加剧故障、消耗 rate limit，并导致副作用重复发生。
  • 实际使用: 对 provider 超时采用有上限的指数延迟重试，遵从服务端重试建议，并为任何写入复用 idempotency key。
  • 常见混淆: 不应重试永久性的校验或权限错误；没有防重复策略时，也不应重试非幂等操作。
  • 相关术语: Idempotency, Rate Limit, Circuit Breaker, Backpressure

Reviewer Agent ​

  • 分类: AI-native 开发
  • 实际含义: 被指派按明确标准检查另一位 agent 的产物或决策，并返回发现或结论的 agent。
  • 为什么重要: 角色分离能发现遗漏，但前提是 reviewer 获得独立证据和具体的评判标准。
  • 实际使用: 一个 agent 产出 patch 后，将 diff、scope contract、仓库规则和测试输出交给独立 reviewer，再要求其给出逐行发现。
  • 常见混淆: 第二次模型调用并不会自动独立或正确。共享上下文、模型偏差和模糊标准都可能复现同样的错误。
  • 学习课程: Reviewer Agent
  • 相关术语: Coding Agent, Verification Gate, Scope Contract, LLM-as-a-Judge

RLHF (Reinforcement Learning from Human Feedback) ​

  • 分类: 数学与训练
  • 常见说法: 用人类偏好训练模型。
  • 实际含义: 一类流水线：利用人类反馈学习 reward 或偏好信号，再针对该信号优化模型 policy。具体实现不同，不一定都使用相同的 reinforcement-learning 算法。
  • 常见混淆: RLHF 优化的是从收集到的反馈中学习到的代理目标；它不保证与每位用户或各种情境实现广泛 alignment。
  • 学习课程: Reinforcement Learning from Human Feedback
  • 来源: InstructGPT paper
  • 相关术语: DPO (Direct Preference Optimization), SFT (Supervised Fine-Tuning), Alignment

Rollback ​

  • 分类: 可靠性与运维
  • 实际含义: 当当前发布违反运维、质量或安全标准时，恢复到此前已知状态的部署或配置。
  • 为什么重要: Agent 和模型的改动即使经过部署前评估，仍可能在生产中失败，因此必须在 rollout 前设计好恢复方案。
  • 实际使用: 保留带版本的产物和配置，定义 rollback 触发条件，演练命令及其数据影响，并在恢复后验证服务健康状态。
  • 常见混淆: 代码 rollback 不会自动撤销数据库迁移、外部副作用、缓存输出或错误发布所写入的数据。
  • 相关术语: Canary Release, Checkpoint, Regression Test, Durable Execution
  • 来源: Kubernetes Deployments: Rolling Back

ROUGE ​

  • 分类: 评估与安全
  • 常见说法: 常用于摘要的参考文本重叠指标。
  • 实际含义: 一类指标，使用 n-gram 重叠或最长公共子序列等单位，将生成文本与参考文本进行比较。
  • 常见混淆: 表面重叠可能遗漏语义等价内容，也可能奖励照抄措辞，却无法证明事实质量。
  • 相关术语: Evaluation (Eval), Precision & Recall, LLM-as-a-Judge