摘要： 1.欠拟合：模型没有充分学习到数据集的特征，导致在训练集和测试集性能都很差的情况 2.解决办法： 1.增加其他特征项，可以通过“组合”、“泛化”、“相关性”等的操作来添加特征项 2.添加多项式特征，这个在机器学习算法里面用的很普遍，例如将线性模型通过添加二次项或者三次项使模型泛化能力更强 3.减少正 阅读全文

摘要： 1.全0初始化或者同一层的初始化为同一个值。 这样的初始化导致前向传播得到相同的值，反向传播也得到相同的梯度，这样就失去了神经元的不对称性 2. 3.xavier初始化 首先明确均匀分布：数学期望：E(x)=(a+b)/2 方差：D(x)=(b-a)²/12 https://zhuanlan.zhi 阅读全文