文章分类 - UFLDL(转载)
摘要:卷积特征提取与池化(Pooling)——处理大型图像在之前的章节中,我们已经很好地解决了手写体识别问题(维数为28*28)。但如果是更大的图像(维数为96*96)呢?如果你还是要学习400个特征,那么网络权重参数就有400*96*96即近400万个。卷积特征提取如果我们从大型彩色图像(64*64*3...
阅读全文
摘要:Exercise:Convolution and Pooling 代码示例练习参考Convolution and Pooling 这个练习用于处理大型图像,需要编写代码实现卷积特征提取和池化(采样)两个过程。在上一个练习中,通过小尺寸图像样本训练线性编码器得到的权重矩阵W、偏差向量b以及预处理的...
阅读全文
摘要:卷积Convolution和池化pooling特征提取,分类前言: 本次实验是练习convolution和pooling的使用,更深一层的理解怎样对大的图片采用convolution得到每个特征的输出结果,然后采用pooling方法对这些结果进行计算,使之具有平移不变等特性。实验参考的是斯坦福网页...
阅读全文
摘要:Deep learning:二十三(Convolution和Pooling练习)前言: 本次实验是练习convolution和pooling的使用,更深一层的理解怎样对大的图片采用convolution得到每个特征的输出结果,然后采用pooling方法对这些结果进行计算,使之具有平移不变等特性。实...
阅读全文
摘要:UFLDL学习笔记7(Working with Large Images)最近在学习UFLDL Tutorial,这是一套关于无监督学习的教程。在此感觉Andrew Ng做的真的是非常认真。下面把我的代码贴出来,方便大家学习调试。所有代码已经过matlab调试通过。Convolution and P...
阅读全文
摘要:Exercise:Learning color features with Sparse Autoencoders 代码示例练习参考Learning color features with Sparse Autoencoders将稀疏自编码器修改为线性解码器,只需把第三层改为线性函数如a(3)=z(...
阅读全文
摘要:linear Decoder (线性自动稀疏编码)一、简介稀疏自编码包含3层神经元,分别是输入层,隐含层以及输出层。自编码网络中的神经元采用的是相同的激励函数(S型函数)。S型函数的输出范围是[0,1],当神经元采用S型函数时,其输出范围也在[0,1]内;由于输出范围在0和1之间,这就要求采用自码时...
阅读全文
摘要:UFLDL学习笔记6(Linear Decoders with Autoencoders)最近在学习UFLDL Tutorial,这是一套关于无监督学习的教程。在此感觉Andrew Ng做的真的是非常认真。下面把我的代码贴出来,方便大家学习调试。所有代码已经过matlab调试通过。Linear De...
阅读全文
摘要:Deep learning:十七(Linear Decoders,Convolution和Pooling)本文主要是学习下Linear Decoder已经在大图片中经常采用的技术convolution和pooling,分别参考网页http://deeplearning.stanford.edu/wi...
阅读全文
摘要:Deep learning:二十二(linear decoder练习)前言: 本节是练习Linear decoder的应用,关于Linear decoder的相关知识介绍请参考:Deep learning:十七(Linear Decoders,Convolution和Pooling),实验步骤参考...
阅读全文
摘要:UFLDL学习笔记5(Building Deep Networks for Classification)最近在学习UFLDL Tutorial,这是一套关于无监督学习的教程。在此感觉Andrew Ng做的真的是非常认真。下面把我的代码贴出来,方便大家学习调试。所有代码已经过matlab调试通过。B...
阅读全文
摘要:Deep learning:二十四(stacked autoencoder练习)前言: 本次是练习2个隐含层的网络的训练方法,每个网络层都是用的sparse autoencoder思想,利用两个隐含层的网络来提取出输入数据的特征。本次实验验要完成的任务是对MINST进行手写数字识别,实验内容及步骤...
阅读全文
摘要:Deep learning:十六(deep networks)本节参考的是网页http://deeplearning.stanford.edu/wiki/index.php/UFLDL_Tutorial中关于Building Deep Networks for Classification一节的介绍...
阅读全文
摘要:Deep Networks for Classification 和 栈式自编码 代码详细解析本文分为三部分,前言和实验基础copy自tornadomeet博客;后面代码详解为自己原创。前言: 本次是练习2个隐含层的网络的训练方法,每个网络层都是用的sparse autoencoder思想,利用两...
阅读全文
摘要:Exercise: Implement deep networks for digit classification 代码示例练习参考Implement deep networks for digit classification 这个练习用到了一个四层的深度神经网络。第一层是数据输入层;第二、...
阅读全文
摘要:特征学习 (Self_taught Learning)简介 如果已经有一个足够强大的机器学习算法,为了获得更好的性能,最靠谱的方法之一是给这个算法以更多的数据。机器学习界甚至有个说法:“有时候胜出者并非有最好的算法,而是有更多的数据。” 在自学习和无监督特征学习问题上,可以给算法以大量的未标...
阅读全文
摘要:Exercise:Self-Taught Learning 代码示例练习参考Self-Taught Learning结合使用稀疏自编码器和Softmax分类器对0到4的手写数字进行分类。首先利用稀疏自编码器无监督学习手写数字5到9的特征。利用学到的权重和偏置计算手写数字0到4的激活值,并将激活值作为...
阅读全文
摘要:Exercise:Softmax Regression 代码示例练习参考Softmax RegressionsoftmaxCost.m 中加入代码:M = theta*data;M = exp(bsxfun(@minus, M, max(M, [], 1)));P = bsxfun(@rdivide...
阅读全文
摘要:Deep learning:十五(Self-Taught Learning练习)前言: 本次实验主要是练习soft- taught learning的实现。参考的资料为网页:http://deeplearning.stanford.edu/wiki/index.php/Exercise:Self-...
阅读全文
摘要:Softmax回归代码详解简介Sfotmax回归分析是logistic回归分析在多个分类问题上面的发展。Logistic回归中,训练集由m个标签样本组合构成:对于给定的测试输入,我们想用假设函数针对每一个类别j估算出概率值p(y=j|x)。也就是说,我们想估计x的每一种分类结果出现的概率。,我们的假...
阅读全文

浙公网安备 33010602011771号