摘要： L2正则化和权重衰退(Weight Decay) 一、权重衰退介绍 1.什么是权重衰减/权重衰退——weight_decay L2正则化 主要作用是：解决过拟合，在损失函数中加入L2正则化项 2. L2范数 L2范数，也被称作欧几里得范数或者Frobenius范数（当应用于矩阵时），是最常用的向量范 阅读全文

摘要： 模型选择、过拟合、欠拟合 在机器学习和统计建模中，模型选择、过拟合和欠拟合是常见的概念，关系到模型的性能和泛化能力。 1.模型选择 举个一个有趣的例子： 惊讶的发现： 你发现所有的5个人在面试的时候都穿了蓝色衬衫(就是咱们说的蓝领嘛) 你的模型也发现了这个强信号 这会有什么问题？ 这就引出了我们的训 阅读全文