摘要： 初始化 w b，其实并没有特别统一的规定，只是有一些经验，而这些经验并没有被严格证明，所以不保证一定有效； 假设我们选择 sigmoid 为激活函数，我们需要把 sigmoid 的输入定格于 0 附近，因为这里梯度比较明显； 换句话说就是要把 wx+b 的值置于 0 左右，这样才不容易梯度消失； 核 阅读全文

摘要： 几乎所有深度学习框架背后的设计核心都是张量与计算图； Tensor 即张量，在 tf 中也有这个概念，tensor 是 pytorch 和 tf 非常重要的数据结构，可以理解为多维数组，它可以是一个数、一个向量、一个矩阵、多维数组； Tensor 可以用 GPU 加速； 在 pytorch 中其用法 阅读全文