MyAJY

摘要： 假设一个5层神经网络：输入层、3层隐藏层、输出层，其中每层只有一个神经元。 对于第$i$层，输出为$z_i=\sigma (y_i)=\sigma (w_ix_i+b_i)$，其中$x_i=z_{i-1}$；设损失函数为$L$，那么在反向传播更新参数时，比如$b_1$，其梯度为：\(\frac{\p 阅读全文

摘要： 训练误差：在训练集上的误差。 测试误差：在测试集上的误差，也称为泛化误差。 注：在先前未观测到的输入上表现良好的能力被称为泛化。 欠拟合（underfitting）：模型在训练集上不能获得足够低的误差 过拟合（overfitting）：训练误差与测试误差之间的差距太大。 通过调整模型的容量（capa 阅读全文