过拟合

它是什么

过拟合是模型在训练数据上表现很好，却在新的、未参与训练的样本上明显变差的现象。问题不只是“记住了数据”这句比喻，而是模型学到的部分规律只适用于训练样本的偶然细节，不能稳定迁移到预期场景。[S1][S2]

为什么需要它

训练指标容易获得，也最容易被反复优化。如果团队只看训练集，复杂模型可能显得接近完美，上线后却无法处理真实变化。识别过拟合能迫使评估从“模型是否贴合已知答案”转向“模型面对新情况是否仍然有效”。

它如何工作

当模型容量相对数据过高，或训练数据没有覆盖预期条件时，优化过程可能同时学习有效信号、噪声和偶然相关。[S1][S2] 随着训练继续，训练误差下降，而验证误差停止改善甚至上升，这种分叉是常见迹象。诊断还要排除训练与验证处理不一致、数据泄漏和分布差异等问题。

真实例子

一个投诉分类器使用旧网站工单训练，几乎能完美识别训练样本中的固定模板，但上线到新的语音转写渠道后大量失败。模型可能记住了旧模板词语，而没有学到投诉意图。即使换成更简单模型，也仍需补充新渠道数据，否则数据覆盖问题不会消失。

什么时候适合与不适合

“过拟合”适合描述训练表现与独立数据表现之间的差距，不应仅凭模型参数多、训练时间长或某次测试较差就下结论。可通过增加代表性数据、限制模型容量、正则化、提前停止和改进验证设计来缓解，但每种方法都有前提。模型过于简单还可能欠拟合，因此目标不是一味降低复杂度。

亲自试一下

目标是从两组曲线判断风险。每轮记录训练集和验证集的同一项误差，至少写五轮；若训练误差持续下降而验证误差连续上升，标记可能开始过拟合的位置。然后分别提出一个数据、模型和评估层面的检查，不要直接把“停止训练”当作唯一答案。

接下来学什么

先学习泛化能力理解真正关心的目标，再学习训练验证测试集划分建立独立评估；结合训练数据检查覆盖，并与欠拟合区分模型能力不足。

来源与修订

训练与新数据表现差距、数据代表性和模型复杂度参考 Google 过拟合课程 [S1]；容量、训练误差和泛化误差框架参考 MIT Press《Deep Learning》机器学习基础章节 [S2]。本文不把单一模型规模或单次指标变化直接判定为过拟合。