hyperddr

摘要： 有些时候，一些思路闪电般闪过脑际，一下子照亮混沌的天空，却怎么也抓不住。我需要博客这样的外存，来帮助我记下思绪的碎片，逐渐拼凑出闪电的样子，让它持续照亮我的脑海。关于生物神经网络的模型，我一直都在构想，一直都不得要领，直到今天坐在易买得的门口等lp出来，翻看着《机器学习》，大脑不着边际得思考着。突然一种模式出现在脑中，它似乎能够解决之前想到的不少问题，但又一下子想不清楚。现在回到家我尝试用记录博客的方式整理一下我的思路。1.首先应该有游离的神经元，存在于脑海中，等着被利用。2.其次训练神经元应该也是一个神经元，也有输出，而且一直存在于脑中。而不像bp网络中那样，训练结束，导师信号就不存在了。3 阅读全文

摘要： 接下来我们分析一下生物神经元网络所需要的特性：1.算法简单，要非常简单。至少不会牵涉到多个神经元的相互作用。而应该是一对一的关系。2.网络结构动态变化，所谓的隐藏层神经元的数量可以任意增加。3.强力的记忆能力，一两次的训练就能把训练输入记录下来。有“第一印象”现象，也就是训练系数不断减小的现象。4.有神经反射功能。就是长期共同激活的神经元互相会联系在一起。初步假设其结果是a的输出连到b的输入，b的输出连到a的输入。还有其他特征继续补充中。想到了就记下来。下面一节记录一些想到的思绪。 阅读全文

摘要： 经过仔细思考，我觉得bp网络无论如何也是和生物神经网络毫无关系的一种算法。它的目标就像其他算法，是用来解决一些问题的，比如模糊的模式识别等。这样子的思路在我看来太功利，急功近利，完全是稍微借鉴了一点点生物神经网络的样子提出的传统思路的算法。有以下理由可以说明这个和生物神经完全无关：1.这个算法相当复杂，生物网络绝对不可能存在这种严谨的逻辑。神经元的输出函数还必须可导，一般推荐sigmoid函数，否则在反向传播的时候还得算导函数值。sigmoid函数可是有指数有倒数的函数，要生物支持这种算法是难以想象的。2.网络结构固定，必须预先设计好。解决一个问题，bp网络的隐藏层神经元数目是固定的，少了解决 阅读全文