2015年1月8日

深度学习系列三(DNN的pretraining-RBM)

摘要: DNN的pretraining-RBM DNN是高度非线性函数,采用BP算法训练网络的存在一个问题,非常容易陷入局部极值点。Restricted Boltzmann machine(RBM)提供了一种无监督的训练方式可以对DNN进行pretraining。也有一些其他的方法(如autoencod... 阅读全文

posted @ 2015-01-08 13:40 浅显易懂 阅读(3912) 评论(0) 推荐(0)

深度学习系列二(DNN的有监督训练-BP算法)

摘要: DNN的有监督训练-BP算法 这里以$K$类分类问题来对BP算法进行描述。实际上对于其他问题(如回归问题)基本是一样的。给定训练样本为:$(\mathbf{x},\mathbf{y})$,其中$\mathbf{x}$为样本的特征,$\mathbf{y}$为类别标签,其形式为:$\mathbf{y}... 阅读全文

posted @ 2015-01-08 09:05 浅显易懂 阅读(3604) 评论(0) 推荐(0)

导航