前向传播实战(手写梯度下降与前向计算，不做调参侠)

前向传播实战

• 1、简介
• 2、前向传播实战
• • 2.1 导入依赖
  • 2.2 加载数据集
  • 2.3 创建每个非线性层的W和b参数
  • 2.4 前向计算
  • 2.5 自动梯度与梯度更新
  • 2.6 完整代码
• 3、总结

1、简介

  我们这里使用张量的基本操作去完成三层神经网络的实现：
o u t = R e L U ( R e L