tensorflow之神经网络实现流程总结

tensorflow之神经网络实现流程总结

• 1.数据预处理preprocess
• 2.前向传播的神经网络搭建(包括activation_function和层数)
• 3.指数下降的learning_rate
• 4.参数的指数滑动平均EMA
• 5.防止过拟合的正则化regularization
• 6.loss损失函数构造(loss_ + regularization)
• 7.后向传播和梯度下降(learning_rate + loss)
• 8.评价函数的构造(accuracy + EMA)
• 9.run 模型(用variable 而不是 EMA)
• 10.模型保存