深度学习—2.传统神经网络

神经网络的起源-线性回归

• 概念：线性关系来描述输入到输出的映射关系
  • 应用场景： 网络分析、银行风险分析、基金股价预测、天气预报
    

优化方法：梯度下降

梯度下降法总结

线性回归的局限

非线性激励

常用的非线性激励函数

神经网络的构建

神经元-神经网络

神经元的“并联”和“串联”

神经网络求导-TensorFlow实现

神经网络的“配件”

损失函数-Loss

Softmax

Cross entropy

自定义

学习率Learning rate

动量

过拟合Overfitting