训练、数据与模型优化：从数据清洗到 LoRA
Agent 岗位面试不只考“会不会用 Agent”，还考**“Agent 背后的模型是怎么训出来的”**。数据怎么洗、训练集怎么构造、微调用什么方法、对齐算法怎么选——这些问题考的是你对 Agent 全链路的理解深度。
本篇目录
- 数据工程与清洗
- 微调与对齐训练
- Transformer 基础
- 模型能力与部署
- 注意力机制与复杂度
- 训练策略与实践
- Q：超长上下文是怎么实现的？（如 Kimi 这类模型）
- Q：Agent 在细分场景（比如法律、医疗）落地时，微调策略和通用场景有什么不同？
- 微调 vs Prompt 做代码生成
- 模型参数大小与 Agent 能力
- Rerank 模型蒸馏
- BERT 与 GPT 架构对比
- 为什么大模型都是 Decoder-only
- 训练 AI Coding Agent 的策略
- Agent 奖励函数设计
- Q：训练后量化的完整流程是什么？粒度、校准方法和离群值如何共同影响精度？
- Q：GPTQ、AWQ、SmoothQuant 与 AdaQuant 的核心思路有什么不同？
- Q：Tool-use SFT 训练时，长轨迹采用截断、切分还是掩码？如何避免破坏工具依赖关系？
- Q：为什么 Step-level SFT 之后再进行 GRPO，通常比直接从基座模型开始做 GRPO 稳定？
- Q：GRPO 中相对奖励是如何计算的？同一组奖励方差接近零时如何处理？
- Q：Tool-use 轨迹长度与任务复杂度有什么关系？训练数据应如何分布？
- Q：Tool-use 强化学习中的内容奖励应如何设计？
- Q：多工具调用存在依赖关系时，Reward 应如何做信用分配？
- Q：Agent 交互轨迹与普通语言模型语料有什么区别？如何仿真高质量轨迹？
- Q：Agentic CPT、SFT、RL 三阶段分别训练什么能力？
- Q：多轮对话 RL 如何设计过程奖励与终局奖励，并避免用户模拟器过拟合？
- Q：为什么 SFT 后继续做 DPO/PPO 等偏好优化可能导致基础能力退化？
- Q：LoRA 应该挂在哪些层？rank、alpha 和 dropout 如何共同影响效果？
- Q：KV Cache Block 的哈希和逻辑到物理映射应该怎么设计？
- Q：Agent 动作空间过大导致探索低效时，如何裁剪和分层？
- Q：Agentic RL 与普通 LLM RL 的核心差异是什么？
- Q：Agentic CFT 与 SFT、RL 的目标有何不同？为什么训练时要 Mask Observation Token？
- Q：训练实验如何对 YAML 配置做规范化哈希，并保证单变量变化可复现？
- Q：如何训练模型做高精度抽取式摘要？数据、目标、Loss 和评测如何设计？
- Q：预训练与 SFT 在数据、目标函数、计算形态和基础设施上有什么区别？
- 这类题的答题模式