深度学习系列三(DNN的pretraining-RBM)
DNN的pretraining-RBM
DNN是高度非线性函数,采用BP算法训练网络的存在一个问题,非常容易陷入局部极值点。Restricted Boltzmann machine(RBM)提供了一种无监督的训练方式可以对DNN进行pretraining。也有一些其他的方法(如autoencoder)可以用来预训练,这里只介绍RBM。最近太忙,有时间再更新。
DNN的pretraining-RBM
DNN是高度非线性函数,采用BP算法训练网络的存在一个问题,非常容易陷入局部极值点。Restricted Boltzmann machine(RBM)提供了一种无监督的训练方式可以对DNN进行pretraining。也有一些其他的方法(如autoencoder)可以用来预训练,这里只介绍RBM。最近太忙,有时间再更新。