阶段 17:基础设施与生产
把 AI 交付到真实世界。扩展、监控、优化。
在 GitHub 上开始本阶段
前置要求: 阶段 11“LLM 工程”与阶段 13“工具与协议”。
第一课: 托管式 LLM 平台
从仓库根目录运行:
bash
python3 phases/17-infrastructure-and-production/01-managed-llm-platforms/code/main.py记录命令、退出码、成本与延迟对比、冗余提升,以及一份简短的决策记录,写明所选方案背后的工作负载假设。
下一步: 改变一个工作负载或 SLA 输入,说明新的选择,然后继续学习推理平台经济学。