随笔分类 -  Python && Theano

摘要：1.KNN原理：存在一个样本数据集合，也称作训练样本集，并且样本集中每个数据都存在标签，即我们知道样本集中每一个数据与所属分类的对应关系。输入没有标签的新数据后，将新数据的每个特征与样本集中数据对应的特征进行比较，然后算法提取样本集中最相似数据（最近邻）的分类标签。一般来说，只选择样本数据集中前 $... 阅读全文

摘要：在写大型程序时候的一大挑战是如何保证最少的内存使用率。但是在Python中的内存管理是比较简单的。Python显示分配内存，使用引用计数系统管理对象，当指向某一个对象的引用数变为 0 的时候，该对象所占的内存就会被释放。理论上听起来很不错，也很简单，但是在实践中，我们需要知道一些Python内存管理... 阅读全文

摘要：1.有道的翻译网页：www.youdao.comFig1Fig2Fig3Fig4再次点击"自动翻译"->选中'Network'->选中'第一项'，如下：Fig5然后显示出如下内容，红框画出的部分是等会编写代码需要的地方：Fig6Fig7再看看翻译的结果：Fig82.python实现英译汉：原理：把需... 阅读全文

摘要：1.自动编码器自动编码器首先通过下面的映射，把输入$x\in[0,1]^{d}$映射到一个隐层$y\in[0,1]^{d^{'}}$（编码器）：$y=s(Wx+b)$其中 $s$ 是非线性的函数，例如sigmoid. 隐层表示 $y$ ,即编码然后被映射回（通过解码器）一个重构的 $z$,形状与输入... 阅读全文

摘要：1.引言卷积神经网络（Convolutional Neural Networks , CNN）受到视网膜上的细胞只对视野范围内的部分区域敏感，这一部分区域称为感受域（receptive field）.卷积神经网络正是采用了这种机制，每一个神经元只与一部分输入相连接。2.稀疏连接CNNs通过局部连接的... 阅读全文

摘要：1.引言一个多层感知机（Multi-Layer Perceptron，MLP）可以看做是，在逻辑回归分类器的中间加了非线性转换的隐层，这种转换把数据映射到一个线性可分的空间。一个单隐层的MLP就可以达到全局最优。2.模型一个单隐层的MLP可以表示如下：一个隐层的MLP是一个函数：$f:R^{D}\r... 阅读全文

摘要：1 # -*- coding: utf-8 -*- 2 """ 3 Created on Wed Apr 22 17:39:19 2015 4 5 @author: 90Zeng 6 """ 7 8 import numpy 9 import theano10 import theano.te... 阅读全文