摘要: 对于加深网络层数带来的问题,(gradient diffuse 局部最优等)可以使用逐层预训练(pre-training)的方法来避免 Stack-Autoencoder是一种逐层贪婪(Greedy layer-wise training)的训练方法,逐层贪婪的主要思路是每次只训练网络中的一层,即首 阅读全文
posted @ 2016-04-08 10:53 ooon 阅读(828) 评论(0) 推荐(0)
摘要: self-taught learning 在特征提取方面完全是用的无监督的方法,对于有标记的数据,可以结合有监督学习来对上述方法得到的参数进行微调,从而得到一个更加准确的参数a。 在self-taught learning中,首先用 无标记数据训练一个sparse autoencoder,这样用对于 阅读全文
posted @ 2016-04-08 10:44 ooon 阅读(399) 评论(0) 推荐(0)