问答 · ANSWER
过拟合与欠拟合是什么？
直接回答
过拟合是模型在训练数据上表现好但泛化能力差；欠拟合是模型在训练和新数据上表现均不佳。两者源于模型复杂度和数据量的不匹配，正则化是控制复杂度的常用方法。
关键要点
- 过拟合表现为训练集误差小、测试集误差大，模型失去了泛化能力。
- 欠拟合表现为训练集和测试集误差都较大，模型未能捕捉数据规律。
- 过拟合的成因包括训练数据过少和模型过于复杂。
- 欠拟合的成因主要是模型过于简单。
- 解决过拟合可从收集更多数据或降低模型复杂度（如正则化）入手。
- 正则化通过修改优化目标，加入与模型复杂度正相关的惩罚项来控制模型。
- 正则化系数（如λ）是超参数，用于平衡拟合数据与保持模型简单。
- 模型复杂度与测试集性能呈倒U型关系，目标是找到最佳平衡点。
怎么选 / 怎么做
判断模型是否过拟合或欠拟合，可观察训练集与测试集的性能差异：若训练集性能高而测试集性能低，可能过拟合；若两者性能都低，可能欠拟合。可通过调整模型复杂度（如多项式次数、KNN中的k值）或正则化强度来改善。
常见问题
什么是过拟合？
模型在训练数据上表现好，但在新数据上表现差，泛化能力弱。
什么是欠拟合？
模型在训练数据和新数据上表现都不佳，未学到数据规律。
怎么解决过拟合？
可收集更多数据，或通过正则化降低模型复杂度。
正则化系数的作用？
平衡模型拟合数据与保持简单，需调优的超参数。