未雨愁眸 - 博客园

公告

摘要： 1. 输入样本的处理听起来似乎是一个比较奇怪的说法，不对输入做任何处理的话，是无法求解异或问题的。这里提供一种对输入进行处理的可行方式：对输入样本做必要的升维处理，其实质是引入非线性分量。如下图所示： X = [0, 0, 0; 0, 1, 1; 1, 0, 1; ... 阅读全文

posted @ 2017-03-02 10:42 未雨愁眸阅读(264) 评论(0) 推荐(0)

摘要： 1. δ 学习规则1986 年，由认知心理学家 McClelland 和 Rumellhart 在神经网络训练中引入了 Δ 学习规则，该规则亦可称为连续感知器学习规则（与离散感知器学习规则相并行）。Δ 规则的学习信号规定为：r=(dj−f(wTjx))f′(wTjx)... 阅读全文

posted @ 2017-03-02 09:31 未雨愁眸阅读(986) 评论(0) 推荐(0)

posted @ 2017-03-02 09:31 未雨愁眸阅读(3855) 评论(0) 推荐(0)

摘要：问，更换单层感知器的激活函数（比如改为 tanh 函数），能否使模型具有解决非线性分类问题的能力。tanh(s)=exp(s)−exp(−s)exp(s)+exp(−s)可知，tanh 过原点，在 s>0 时，tanh>0，s0⇒tanh(w⋅x)>0⇒w⋅x>0sg... 阅读全文

posted @ 2017-03-01 23:10 未雨愁眸阅读(348) 评论(0) 推荐(0)

posted @ 2017-03-01 23:10 未雨愁眸阅读(407) 评论(0) 推荐(0)

摘要： 0. 其他处理计时：ticnet = train(net, X, y);toc1. 一个简单的 demo（单层感知器）P = [1, 1, 1, 1, 0, 0, 0, 0; 0, 0, 1, 1, 0, 1, 1, 0; 0, 1, 0, 1, 1, 0, 1, 0... 阅读全文

posted @ 2017-03-01 20:50 未雨愁眸阅读(839) 评论(0) 推荐(0)

摘要： 0. 其他处理计时：ticnet = train(net, X, y);toc1. 一个简单的 demo（单层感知器）P = [1, 1, 1, 1, 0, 0, 0, 0; 0, 0, 1, 1, 0, 1, 1, 0; 0, 1, 0, 1, 1, 0, 1, 0... 阅读全文

posted @ 2017-03-01 20:50 未雨愁眸阅读(283) 评论(0) 推荐(0)

摘要： prev_err = ...for j = 1:epoch 'epoch ' j ' / ' epoch for i = 1:N, ... end cur_err = if abs(cur_err - pre_err) < ... 阅读全文

posted @ 2017-03-01 18:26 未雨愁眸阅读(177) 评论(0) 推荐(0)

摘要： prev_err = ...for j = 1:epoch 'epoch ' j ' / ' epoch for i = 1:N, ... end cur_err = if abs(cur_err - pre_err) < ... 阅读全文

posted @ 2017-03-01 18:26 未雨愁眸阅读(639) 评论(0) 推荐(0)

摘要：假设感知器采用的是与阈值转移函数相类似的符号转移函数，其表达式为：f(wTjx)=sgn(wTjx)={1,wTjx≥0−1,wTjx<0下标 j 表示的是不同的迭代次数。用于调整参数的学习信号，等于神经元期望输出与实际输出之差：r=dj−oj权值调整公式应为：Δwj... 阅读全文

posted @ 2017-03-01 18:16 未雨愁眸阅读(387) 评论(0) 推荐(0)