32 - 微调效果评估与模型部署
本章课程目标:
- 能让原始模型与微调模型回答相同问题,说明比较条件是否公平。
- 能用一条样本算清精确率、召回率与 F1,再结合格式和实际错误读懂整份报告。
- 能根据证据决定继续改进还是采用模型,并安排下一轮数据检查与回归验证。
- 能区分 Adapter、合并模型和接口服务,完成导出核查;需要时再选做部署。
学习建议: 围绕“这次微调是否值得采用,依据是什么”展开学习:先看一条回答,再看一批结果,最后决定怎样改进和交付。英文参数和命令用于完成这些检查,首次阅读不要求记住它们。
先按正文理解第 1~4 节,亲手计算第 4.2 节的图书馆样本;进阶对照和故障说明需要时再展开。跟做时,有 Adapter 就完成第 2~3 节的加载与预测;暂时没有 GPU,可直接用课程附带的两组预测完成第 4.4 节,只需要 Python 3。两条路线都要在第 4.6 节写出自己的评估结论。
第 5 节学习怎样交付模型文件,第 6 节再认识程序如何调用它。安装 vLLM 按环境条件选做;接口返回后怎样检查、失败后怎样处理,仍值得读懂。