cousera 吴恩达 深度学习 第一课 第二周 作业 过拟合的表现
上图是课上的编程作业运行10000次迭代后,输出每一百次迭代 训练准确度和测试准确度的走势图,可以看到在600代左右测试准确度为最大的,74%左右, 然后掉到70%左右,再掉到68%左右,然后升到70%,然后是68%, 然后稳定在70% , 这个设置的 学习率为 0.005 。
这个是学习率设置为0.01的情况,在900代左右达到72%准确度的测试准确度, 7500代以后测试准确度也达到最大值 72%
根据这个小测试,一个小想法就是 在训练最早到达最高值以后就可以停止训练了,但是什么时候到达的值是最大的呢,这个也不好解释和判断,某种意义上只要达到某个高度再训练就变差的时候,这时候就可以停止了。
源码地址:
https://github.com/guojun007/logistic_regression_cat
本博客是博主个人学习时的一些记录,不保证是为原创,个别文章加入了转载的源地址,还有个别文章是汇总网上多份资料所成,在这之中也必有疏漏未加标注处,如有侵权请与博主联系。
如果未特殊标注则为原创,遵循 CC 4.0 BY-SA 版权协议。
posted on 2018-07-10 21:09 Angry_Panda 阅读(556) 评论(0) 编辑 收藏 举报