摘要:
1. 概述 卷积神经网络是一种特殊的深层的神经网络模型,它的特殊性体现在两个方面,一方面它的神经元间的连接是非全连接的, 另一方面同一层中某些神经元之间的连接的权重是共享的(即相同的)。它的非全连接和权值共享的网络结构使之更类似于生物 神经网络,降低了网络模型的复杂度(对于很难学习的深层结构来说,这 阅读全文
随笔分类 - Deep Learning
数据挖掘(10):卷积神经网络算法的一个实现
2016-03-31 21:45 by GarfieldEr007, 430 阅读, 收藏,
摘要:
前言 从理解卷积神经到实现它,前后花了一个月时间,现在也还有一些地方没有理解透彻,CNN还是有一定难度的,不是看哪个的博客和一两篇论文就明白了,主要还是靠自己去专研,阅读推荐列表在末尾的参考文献。目前实现的CNN在MINIT数据集上效果还不错,但是还有一些bug,因为最近比较忙,先把之前做的总结一下 阅读全文
CNN卷积神经网络在自然语言处理的应用
2016-03-31 21:44 by GarfieldEr007, 5037 阅读, 收藏,
摘要:
摘要:CNN作为当今绝大多数计算机视觉系统的核心技术,在图像分类领域做出了巨大贡献。本文从计算机视觉的用例开始,介绍CNN及其在自然语言处理中的优势和发挥的作用。 当我们听到卷积神经网络(Convolutional Neural Network, CNNs)时,往往会联想到计算机视觉。CNNs在图像 阅读全文
卷积神经网络CNN全面解析
2016-03-31 21:39 by GarfieldEr007, 21395 阅读, 收藏,
摘要:
卷积神经网络(CNN)概述 从多层感知器(MLP)说起 感知器 多层感知器 输入层-隐层 隐层-输出层 Back Propagation 存在的问题 从MLP到CNN CNN的前世今生 CNN的预测过程 卷积 下采样 光栅化 多层感知器预测 CNN的参数估计 多层感知器层 光栅化层 池化层 卷积层 阅读全文
Deeplearning原文作者Hinton代码注解
2016-03-31 21:05 by GarfieldEr007, 356 阅读, 收藏,
摘要:
[z]Deeplearning原文作者Hinton代码注解 跑Hinton最初代码时看到这篇注释文章,很少细心,待研究。。。 原文地址:>http://www.cnblogs.com/BeDPS/p/3182725.html from: http://jacoxu.com/?p=692 阅读全文
DeepLearning常用库简要介绍与对比
2016-03-31 20:55 by GarfieldEr007, 1038 阅读, 收藏,
摘要:
网上近日流传一张DL相关库在Github上的受关注度对比(数据应该是2016/03/15左右统计的): 其中tensorflow,caffe,keras和Theano排名比较靠前。 今日组会报告上tj师弟从个人使用经验上做了简单介绍与对比,分享给大家。 华丽的分隔线 师弟的原文出处:http://t 阅读全文
基于Theano的DNN框架Blocks使用简要总结
2016-03-31 20:54 by GarfieldEr007, 1813 阅读, 收藏,
摘要:
Blocks官方代码地址:https://github.com/mila-udem/blocks Blocks是加拿大Montreal大学Bengio实验室牵头开发的基于Python的神经网络模型框架,可方便地在大规模数据上进行复杂神经 网络模型的训练。它包含有很多外置工具包如,logging, m 阅读全文
神经记忆网络、神经机器翻译和神经图灵机的初步探讨
2016-03-31 20:48 by GarfieldEr007, 953 阅读, 收藏,
摘要:
近期看过神经记忆网络、神经机器翻译和神经图灵机三篇工作之后在基于对话历史的信息抽取工作上进行了初步对比尝试,根据自己的理解进行了模型对比。欢迎大家一起讨论。 首先三篇工作的文献分别出自: [1] 神经记忆网络:2015 NIPS, End-To-End Memory Networks (Facebo 阅读全文
MLP 之手写数字识别
2016-03-29 20:55 by GarfieldEr007, 804 阅读, 收藏,
摘要:
0. 前言 前面我们利用 LR 模型实现了手写数字识别,但是效果并不好(不到 93% 的正确率)。 LR 模型从本质上来说还只是一个线性的分类器,只不过在线性变化之后加入了非线性单调递增 sigmoid 函数进行一一映射。实际上,这里的非线性变换对于我们分类来说是几乎没有什么作用的(在分类上,它等价 阅读全文
卷积神经网络CNN 手写数字识别
2016-03-29 20:54 by GarfieldEr007, 702 阅读, 收藏,
摘要:
1. 知识点准备 在了解 CNN 网络神经之前有两个概念要理解,第一是二维图像上卷积的概念,第二是 pooling 的概念。 a. 卷积 关于卷积的概念和细节可以参考这里,卷积运算有两个非常重要特性,以下面这个一维的卷积为例子: 第一个特性是稀疏连接。可以看到, layer m 上的每一个节点都只与 阅读全文
ICLR 2016 - Workshop Track International Conference on Learning Representations 论文papers
2016-03-28 12:58 by GarfieldEr007, 1395 阅读, 收藏,
摘要:
ICLR 2016 - Workshop Track International Conference on Learning Representations May 2 - 4, 2016, Caribe Hilton, San Juan, Puerto Rico Please see the v 阅读全文
开始学习深度学习和循环神经网络Some starting points for deep learning and RNNs
2016-03-28 12:51 by GarfieldEr007, 208 阅读, 收藏,
摘要:
Bengio, LeCun, Jordan, Hinton, Schmidhuber, Ng, de Freitas and OpenAI have done reddit AMA's. These are nice places to start to get a Zeitgeist of the 阅读全文
用500行Julia代码开始深度学习之旅 Beginning deep learning with 500 lines of Julia
2016-03-28 12:47 by GarfieldEr007, 1097 阅读, 收藏,
摘要:
Click here for a newer version (Knet7) of this tutorial. The code used in this version (KUnet) has been deprecated. There are a number of deep learnin 阅读全文
ICLR 2013 International Conference on Learning Representations深度学习论文papers
2016-03-28 12:38 by GarfieldEr007, 1231 阅读, 收藏,
摘要:
ICLR 2013 International Conference on Learning Representations May 02 - 04, 2013, Scottsdale, Arizona, USA ICLR 2013 Workshop Track Accepted for Oral 阅读全文
ICLR 2014 International Conference on Learning Representations深度学习论文papers
2016-03-28 12:34 by GarfieldEr007, 1096 阅读, 收藏,
摘要:
ICLR 2014 International Conference on Learning Representations Apr 14 - 16, 2014, Banff, Canada Workshop Track Submitted Papers Stochastic Gradient Es 阅读全文
卷积神经网络CNN(Convolutional Neural Networks)没有原理只有实现
2016-03-27 21:27 by GarfieldEr007, 324 阅读, 收藏,
摘要:
零.说明: 本文的所有代码均可在 DML 找到,欢迎点星星。 注.CNN的这份代码非常慢,基本上没有实际使用的可能,所以我只是发出来,代表我还是实践过而已 一.引入: CNN这个模型实在是有些年份了,最近随着深度学习的兴起又开始焕发青春了,把imagenet测试的准确度提高了非常多,一个是Alex的 阅读全文
卷积神经网络Convolutional Neural Networks
2016-03-27 21:12 by GarfieldEr007, 246 阅读, 收藏,
摘要:
In the previous post, we figured out how to do forward and backward propagation to compute the gradient for fully-connected neural networks, and used 阅读全文
斯坦福大学卷积神经网络教程UFLDL Tutorial - Convolutional Neural Network
2016-03-27 21:09 by GarfieldEr007, 451 阅读, 收藏,
摘要:
Convolutional Neural Network Overview A Convolutional Neural Network (CNN) is comprised of one or more convolutional layers (often with a subsampling 阅读全文
深度学习文档 DeepLearning 0.1 documentation
2016-03-27 21:06 by GarfieldEr007, 267 阅读, 收藏,
摘要:
Contents LICENSE Deep Learning Tutorials Getting Started Download Datasets Notation A Primer on Supervised Optimization for Deep Learning Theano/Pytho 阅读全文
深度学习教程Deep Learning Tutorials
2016-03-27 21:05 by GarfieldEr007, 338 阅读, 收藏,
摘要:
Deep Learning Tutorials Deep Learning is a new area of Machine Learning research, which has been introduced with the objective of moving Machine Learn 阅读全文
浙公网安备 33010602011771号