摘要: 模型:隐含层激活函数常用的有或,由于tanh收敛更快,本文采用tanh函数激活函数。输出采用逻辑回归G从逻辑回归到MLPclass HiddenLayer(object): def __init__(self, rng, input, n_in, n_out, activation=T.tanh): """ Typical hidden layer of a MLP: units are fully-connected and have sigmoidal activation function. Weight matrix W is of sh... 阅读全文
posted @ 2014-03-05 12:22 I know you 阅读(675) 评论(0) 推荐(0) 编辑
摘要: 模型对数回归模型是线性概率分类器,它有两个参数,权重矩阵W和偏移向量b.分类的过程是把数据投影到一组高维超平面上,数据和平面的距离反应了它属于这个类别的概率。这个模型的数学公式可以表示为:#模型的输出即为预测的结果,它的值为:代码如下:# generate symbolic variables fo... 阅读全文
posted @ 2014-03-05 11:58 I know you 阅读(802) 评论(0) 推荐(0) 编辑
摘要: 在本章节中,我们会学习如何用Theano实现最基本的对数回归分类器。首先,我们会简单的复习一个这个模型,在这个过程中,大家可以进一步的了解如何把数学表达式和Theano的图模型结合起来。数学模型对数回归模型是试过线性概率分类器,它有两个参数,权重矩阵W和偏移向量b.分类的过程是把数据投影到一组高维超平面上,数据和平面的距离反应了它属于这个类别的概率。这个模型的数学公式可以表示为:P(Y=i|x,W,b)=softmaxi(Wx+b)=eWix+bi∑jeWjx+bj模型的输出即为预测的结果,它的值为:ypred=argmaxiP(Y=i|x,W,b)在Theano中,通过以下函数实现如下功能# 阅读全文
posted @ 2014-03-05 08:32 I know you 阅读(376) 评论(0) 推荐(0) 编辑
摘要: 零一损失我们的目的就是让错误次数(零一损失)尽可能的少:f(x)会得出在当前的theata条件下输入对应的最大概率的输出值。换言之,我们从x预测出f(x),如果这个值就是y,那么预测成功,反之失败。# zero_one_loss is a Theano variable representing a symbolic# expression of the zero one loss ; to get the actual value this# symbolic expression has to be compiled into a Theano function (see# the The 阅读全文
posted @ 2014-03-05 07:35 I know you 阅读(793) 评论(0) 推荐(0) 编辑