F
Feature
- 分类: 数据与表示
- 常见说法: 数据集中的一列。
- 实际含义: 数据中一个可单独度量的属性。在经典机器学习中,特征由人工设计;在深度学习中,网络会从原始数据自动学习特征。
- 常见混淆: 一个存储列可能包含多个有用特征,而学习到的表示也可能包含没有简单人工标签的特征。
- 相关术语: Embedding, Latent Space, Inductive Bias
Few-Shot
- 分类: Prompt 与上下文
- 常见说法: 在 prompt 中给模型几个示例。
- 实际含义: 一种 in-context learning:在目标输入之前提供少量演示,让模型推断所需任务、格式或决策边界。
- 为什么重要: 示例的质量和覆盖度比固定的示例数量更重要。差劲或相互矛盾的演示会降低可靠性。
- 相关术语: Zero-Shot, In-Context Learning, Prompt Engineering, Context Window
Fine-tuning
- 分类: 数学与训练
- 常见说法: 用你的数据训练模型。
- 实际含义: 从预训练参数继续训练,使用范围更窄的数据集或目标。根据方法不同,可以更新所有参数、选定参数或新增的 adapter 参数。
- 为什么重要: Fine-tuning 能适应行为、风格、格式或任务表现,但当事实必须保持最新且可追溯时,它不能可靠地替代检索。
- 常见混淆: Fine-tuning 能影响模型编码的知识,但并不是把记录简单追加到模型内部一个可搜索的数据库中。
- 学习课程: 微调与 LoRA
- 相关术语: SFT (Supervised Fine-Tuning), LoRA (Low-Rank Adaptation), QLoRA, RAG (Retrieval-Augmented Generation)
Flaky Test
- 分类: AI-native 开发
- 实际含义: 在代码或预期测试环境没有相关变化的情况下,同等运行之间仍可能通过或失败的测试。
- 为什么重要: 不稳定性会削弱验证关卡,还会让人或 agent 学会忽略真实失败,或不停重试直到得到一次假阳性。
- 实际使用: 保留失败时的随机种子和环境,只在明确负责人和截止日期的前提下隔离用例,然后修复未受控的时间、并发、网络、顺序或共享状态依赖。
- 常见混淆: 一个能稳定暴露间歇性产品 bug 的测试很有价值,并不一定就是 flaky test。
- 相关术语: Regression Test, Test Oracle, Retry with Backoff, Verification Gate
- 来源: De-Flake Your Tests
FlashAttention
- 分类: 基础设施与服务
- 实际含义: 一种精确的 attention 算法,通过分块计算减少 accelerator 各级内存之间的数据传输,并避免在高带宽内存中完整实体化 attention 矩阵。
- 为什么重要: attention 的瓶颈常在内存搬运而非算术运算,特别是面对长序列;因此 IO 感知 kernel 能提升实际速度和内存效率。
- 实际使用: 使用模型形状、mask、dtype 和硬件都支持的 kernel,验证数值容差,并进行端到端延迟基准测试,而不是把论文结果当作固定倍率引用。
- 常见混淆: FlashAttention 改变的是 attention 的计算方式,不是其目标数学结果;它与 KV cache 和量化是不同概念。
- 学习课程: KV Cache 与 Flash Attention
- 相关术语: Attention, Self-Attention, KV Cache, Mixed Precision
- 来源: FlashAttention
Function Calling
- 分类: Agent 与工具
- 常见说法: 模型在使用工具。
- 实际含义: 一种 provider 或应用接口,模型通过它发出结构化请求,指定工具名称及其参数。应用代码校验请求、执行操作,并可将结果返回给下一步模型调用。
- 常见混淆: 模型提出 function call 请求;是否执行及如何执行由你的可信代码决定。仅有 function calling 还不构成完整的 agent。
- 学习课程: Function Calling
- 相关术语: Structured Output, Tool Contract, Agent, MCP (Model Context Protocol)