随笔分类 -  UFLDL

Ng的UFLDL课程,是学习深度学习的入门教程!
摘要:第0步:初始化一些参数和常数第1步:利用训练样本集训练第一个稀疏编码器第2步:利用训练样本集训练第二个稀疏编码器第3步:利用第二个稀疏编码器提取到的特征训练softmax回归模型第4步:利用误差反向传播进行微调第5步:利用测试样本集对得到的分类器进行精度测试下面将程序实现过程中的关键代码post出,... 阅读全文
posted @ 2015-08-31 20:04 纸鸢spring 阅读(1288) 评论(0) 推荐(0)
摘要:多层自编码器由多个稀疏自编码器和一个Softmax分类器构成;(其中,每个稀疏自编码器的权值可以利用无标签训练样本得到, Softmax分类器参数可由有标签训练样本得到)多层自编码器微调是指将多层自编码器看做是一个多层的神经网络,利用有标签的训练样本集,对该神经网络的权值进行调整。1多层自编码器的结... 阅读全文
posted @ 2015-08-31 19:43 纸鸢spring 阅读(2075) 评论(0) 推荐(0)
摘要:关于Andrew Ng的machine learning课程中,有一章专门讲解逻辑回归(Logistic回归),具体课程笔记见另一篇文章。下面,对Logistic回归做一个简单的小结:给定一个待分类样本x,利用Logistic回归模型判断该输入样本的类别,需要做的就是如下两步:① 计算逻辑回归假设函... 阅读全文
posted @ 2015-08-29 12:26 纸鸢spring 阅读(1823) 评论(0) 推荐(0)
摘要:这里所谓的自学习,其实就是利用稀疏自编码器对无标签样本学习其特征该自学习程序包括两部分:稀疏自编码器学习图像特征(实现自学习)---用到无标签的样本集softmax回归对样本分类---用到有标签的训练样本集准备工作下载Yann Lecun的MNIST数据集,本程序用到了如下的两个数据集:第0步:设置... 阅读全文
posted @ 2015-08-27 21:05 纸鸢spring 阅读(536) 评论(0) 推荐(0)
摘要:Exercise:PCA and Whitening第0步:数据准备UFLDL下载的文件中,包含数据集IMAGES_RAW,它是一个512*512*10的矩阵,也就是10幅512*512的图像(a)载入数据利用sampleIMAGESRAW函数,从IMAGES_RAW中提取numPatches个图像... 阅读全文
posted @ 2015-08-27 11:38 纸鸢spring 阅读(421) 评论(0) 推荐(0)
摘要:下面,将UFLDL教程中的sparseae_exercise练习中的各函数及注释列举如下首先,给出各函数的调用关系主函数:train.m(1)调用sampleIMAGES函数从已知图像中扣取多个图像块儿(2)调用display_network函数,以网格的形式,随机显示多个扣取的图像块儿(3)梯度校... 阅读全文
posted @ 2015-08-26 11:06 纸鸢spring 阅读(700) 评论(0) 推荐(0)