问答 · ANSWER

什么是过拟合和欠拟合?怎么解决?

直接回答
过拟合是模型在训练集上表现好但泛化能力差,欠拟合是模型在训练集和新数据上表现都不佳。解决过拟合可收集更多数据或降低模型复杂度(如正则化),解决欠拟合需增加模型复杂度。

关键要点

  • 过拟合常因模型过于复杂或训练数据过少。
  • 欠拟合常因模型过于简单。
  • 正则化通过修改优化目标(损失函数+惩罚项)来控制模型复杂度。
  • 正则化系数λ(或alpha)是平衡拟合与模型简单的超参数,需调优。
  • 模型复杂度与测试集性能呈倒U型关系,存在最佳平衡点。
  • 收集更多数据是解决过拟合最直接有效的方法之一。

怎么选 / 怎么做

判断过拟合:训练集误差小,测试集误差大。判断欠拟合:训练集和测试集误差都大。解决步骤:1. 诊断问题(对比训练集与测试集性能)。2. 若过拟合,尝试收集更多数据或降低模型复杂度(如使用正则化、选择更简单模型)。3. 若欠拟合,尝试增加模型复杂度。4. 通过调整超参数(如正则化系数)寻找最佳平衡点。

常见问题

什么是过拟合?

模型在训练集上表现好,但在新数据上表现差,失去泛化能力。

什么是欠拟合?

模型在训练集和新数据上表现都不佳,未捕捉数据规律。

怎么解决过拟合?

可收集更多数据,或使用正则化降低模型复杂度。

正则化系数λ的作用?

平衡拟合训练数据与保持模型简单,需人工调优。

深入学

小象教研组整理 · 内容来自课程讲义与企业内训素材,仅供学习参考。