摘要： 网络模型的结构以及求解器内容（记录一些超参数）记录在prototxt文件内，下面主要以LeNet-5模型的描述文件lenet_train_test.prototxt和lenet_solver.prototxt为基础，说明一些参数的含义。 网络模型描述文件 【定义网络名称】 ## Define the 阅读全文

摘要： 数据层是每个模型的最底层，是模型的入口，不仅提供数据的输入，也提供数据从Blobs转换成别的格式进行保存输出。通常数据的预处理（如减去均值, 放大缩小, 裁剪和镜像等），也在这一层设置参数实现。 caffe的各种数据层在caffe.proto文件中定义，通过对定义的caffe.proto文件进行编译 阅读全文

摘要： 一个完整的深度学习系统最核心的两个方面是数据和模型。 数据集：训练集，验证集和测试集 机器学习中这三种数据集合非常容易弄混，特别是验证集和测试集： 训练集。这个是最好理解的，用来训练模型内参数的数据集，Classfier直接根据训练集来调整自身获得更好的分类效果 验证集。用于在训练过程中检验模型的状 阅读全文

摘要： 概念区分 batch 深度学习的优化算法，说白了就是梯度下降。每次的参数更新有两种方式： 第一种，遍历全部数据集算一次损失函数，然后算函数对各个参数的梯度，更新梯度。这种方法每更新一次参数都要把数据集里的所有样本都看一遍，计算量开销大，计算速度慢，不支持在线学习，这称为Batch gradient 阅读全文

摘要： 训练好的模型需要进行测试分类效果；查看卷积层输出的特征图以及训练的参数特征，不仅可以更直观的了解各层训练效果，还能够加深理解训练过程。下面以测试cifar10 模型为例，展示测试过程，各层特征图以及参数的可视化。 # _*_ coding : UTF-8 _8_ # 参考：Caffe Cifar10 阅读全文

摘要： 对于训练好的模型，通常需要输入一些其它图像进行测试，用来判断训练好的模型的准确率。由于是单幅图像，或者少数图像的分类测试，转换为lmdb或leveldb格式，再利用caffe工具进行测试比较麻烦。这里总结一些测试图像分类结果的方法，方便今后使用。 方法一：利用caffe自带的classificati 阅读全文

摘要： CNN训练Cifar-10技巧这篇文章中介绍了关于cifar10训练的一些常用技巧，可以提高训练精度以及速度，指的借鉴： 使用ReLu激活函数：ReLu为网络引入了大量的稀疏性，加速了复杂特征解离。非饱和的宽广映射空间，加速了特征学习； 卷积层w初始化逐层增大标准差：Alex选择了高斯分布生成零均值 阅读全文

摘要： MNlST数据集介绍 MNlST (MiXed Nationallnstìtute of Standards and Tecbnology )是一个大型的手写体数字数据库，广泛用于机器学习领域的训练和测试，由纽约大学Yann LeCun 教授整理。MNlST 包括60000个训练集和10000个测试 阅读全文

摘要： 在进行caffe训练网络时，输入图像数据（特指三通道彩色图像）的通道顺序为BGR，blob维度顺序为[ num channel height width ]，动态范围[0, 255]。因此，在进行网络模型测试时，输入数据一定要符合网络模型所需的数据格式，如果不符合，则要进行相应的转换。 这是由于在c 阅读全文

摘要： 1. 数据可视化 在使用caffe进行图像分类，所有数据在预处理时都经历了从图像数据（二进制图像文件如MNIST/CIFAR10，图像格式文件JPEG/PNG）到caffe数据库（LMDB/LEVELDB）的转换，这样做可以提高数据I/O速率，但代价是，开发者无法直接看到数据。 通过数据可视化，可以 阅读全文