摘要: 神经网络的复杂度 1.空间复杂度 层数 = 隐藏层的层数 + 1个输出层 总参数 = 总w + 总b 2.时间复杂度 乘加运算次数 = 总w 指数衰减学习率 学习率lr表征了参数每次更新的幅度,设置过小,参数更新会很慢,设置过大,参数不容易收敛。 在实际应用中,可以先使用较大学习率,快速找到较优值, 阅读全文
posted @ 2020-08-15 19:23 狂奔的小学生 阅读(2076) 评论(0) 推荐(0)
摘要: 主要步骤: 1.准备数据 数据集读入 数据集乱序 将数据集分为训练集和测试集 将输入特征和标签配对,每次喂入神经网络一小撮(batch) 2.搭建网络 定义神经网络中所有可训练参数 3.参数优化 反向传播,不断减少loss 4.测试效果 计算当前参数前向传播后的准确率 代码: import tens 阅读全文
posted @ 2020-08-15 07:55 狂奔的小学生 阅读(3436) 评论(0) 推荐(0)