ChatGPT开发指南

OpenAI Fine-tuning 微调指南:数据、训练与评测

作者:AI 使用指南编辑部 · 发布于 2026/7/13 · 更新于 2026/7/13

微调不是把最新知识永久“塞进模型”,也不是提示词写不好时的第一种补救。它更适合稳定的任务格式、分类边界、语气或重复行为,而需要频繁更新的事实资料通常更适合检索和工具调用。

1、先证明基础方案不够

先建立代表性评测集,测试当前推荐模型、清晰提示、少量示例和结构化输出。如果问题来自缺少实时数据,应增加检索或工具;如果问题来自权限和业务规则,应修改服务端。只有当大量稳定样本显示模型在某种重复行为上持续不足,才考虑微调。

2、准备训练数据

样本应反映真实输入分布和理想输出,格式一致、事实正确,并删除隐私、密钥和无权使用的内容。不要用模型批量生成未经人工审查的“标准答案”,否则会把原模型错误和机械表达重新训练进去。

训练集、验证集和最终测试集必须分开。测试样本不能出现在训练数据中,否则评测结果会过于乐观。边界案例、拒绝案例和容易混淆的类别应有足够覆盖,但不要用大量重复样本人为放大某个模式。

3、训练后如何验收

在同一测试集上比较基础模型与微调模型的任务成功率、格式错误、事实错误、拒绝行为、延迟、成本和人工修改时间。还要检查微调是否损害原本正常的通用能力。

微调模型上线后继续监控真实失败样本,但新增数据要经过审核再进入下一轮训练。模型、数据或任务发生显著变化时重新评测。下一页是本专栏的生产部署与官方资源入口。

参考来源