摘要: 上文提到,到目前为止,caffe总共提供了六种优化方法:Stochastic Gradient Descent (type: "SGD"),AdaDelta (type: "AdaDelta"),Adaptive Gradient (type: "AdaGrad"),Adam (type: "Ada... 阅读全文
posted @ 2015-12-24 20:25 denny402 阅读(49508) 评论(3) 推荐(7)
摘要: solver算是caffe的核心的核心,它协调着整个模型的运作。caffe程序运行必带的一个参数就是solver配置文件。运行代码一般为# caffe train --solver=*_slover.prototxt在Deep Learning中,往往loss function是非凸的,没有解析解,... 阅读全文
posted @ 2015-12-24 19:26 denny402 阅读(104527) 评论(10) 推荐(22)
摘要: 深度网络(net)是一个组合模型,它由许多相互连接的层(layers)组合而成。Caffe就是组建深度网络的这样一种工具,它按照一定的策略,一层一层的搭建出自己的模型。它将所有的信息数据定义为blobs,从而进行便利的操作和通讯。Blob是caffe框架中一种标准的数组,一种统一的内存接口,它详细描... 阅读全文
posted @ 2015-12-24 16:08 denny402 阅读(30020) 评论(0) 推荐(7)
摘要: 本文讲解一些其它的常用层,包括:softmax_loss层,Inner Product层,accuracy层,reshape层和dropout层及其它们的参数配置。1、softmax-losssoftmax-loss层和softmax层计算大致是相同的。softmax是一个分类器,计算的是类别的概率... 阅读全文
posted @ 2015-12-24 13:24 denny402 阅读(64427) 评论(3) 推荐(1)
摘要: 在激活层中,对输入数据进行激活操作(实际上就是一种函数变换),是逐元素进行运算的。从bottom得到一个blob数据输入,运算后,从top输入一个blob数据。在运算过程中,没有改变数据的大小,即输入和输出的数据大小是相等的。输入:n*c*h*w输出:n*c*h*w常用的激活函数有sigmoid, ... 阅读全文
posted @ 2015-12-24 11:27 denny402 阅读(43732) 评论(7) 推荐(3)