让我们来开发一种更类似人脑的神经网络吧（四）

关于新的人脑模型网络，基本构架已经出来了，关键点就是上篇提到的两点

1.存在自由的、游离的神经元，输入权都是0，也就是说大脑内存在一群新生的神经元，还未被利用过。他们会有一定的概率被随机激活。就像cmos电路一样，超级高的输入阻抗，导致如果输入引脚没有接的话，宇宙射线也有可能激活这个逻辑电路。所以一颗沉寂的大脑，如果每个神经元激活了都会发光的话，看上去应该就像地球的太空录像，时不时各处会有一点闪电的亮光闪耀整个画面，点缀着深蓝色的背景。

2.任何两个同时激活的神经元都互相吸引。而连接在一起的神经元，如果激活状态不同，则会发生排斥。

就是说同时激活的神经元之间会增加触突，而有链接的神经如果发现链接错了，则会断开连接。

反应到算法设计上就是同时激活的神经元会增加链接权重，反之减少。

以上两条特性基本就构成了这个框架的内容，下面还有几条需要仔细考虑和研究的内容。但是上面的这两条，已经基本可以解释人类大多数的思维特征了。比如记忆和联想，就可以贴切地形容和研究了。以下还有几条正在困惑我的问题：

1.权向量是否有负权？ 我不知道生物网络是否是有抑制类的触突。《神经网络》中在描述胜者为王网络时提到过，当一个神经元胜出的时候会抑制周围所有的神经元。但这种抑制是发生在向量调整时期，也就是不让人家调整触突或者反向调整人家的触突而已。并不影响别的神经元的现在的输出。而且那种抑制我真的不知道在生物上如何发生。这个逻辑又开始向着传统算法靠拢，就是统筹计算。从全局的角度看问题然后要求个体服从，就像计划经济。我认为生物神经网络应该像市场经济，是没有一个中央控制单元来调控每个神经元的。调整是每个神经元和其他神经元之间的互相作用。说到底，我觉得生物网络很可能没有负权触突。而如果没有负权触突的话，有些东西将是训练不出来的。比如非门。当输入为0时要求它输出1，而输入为1时输出0。没有负权的话这是无法想象的。但这也同时正确反映了生物的特点。看到一些东西，如果少了些什么，你不会立刻反应过来，你需要过一会儿，思考一会儿，和记忆详细比较一下才能想起来好像少了点东西。而如果多了点东西你会立刻把注意力集中在这个多出来的东西上。这个是个纠结的问题。需要在实验当中多加测试。

2.是否存在超权？所谓超权是我捏造的新词，就是权重超过1的权。不知道在其他书里有没有出现过这一个词。我先当成创新词用一下。首先从电路角度看，一个触突应该就是一个电阻，不应该能够提供超过神经元本身输出电位的电位。因此应该不存在超权。不过超权的存在能够使网络结构简单化。如果没有超权，我们需要多个神经元一起参与，联合起来表示一个超权。如果1，2两条都完全参照生物网络的猜测的话，权的值就是一个介于0和1之间的值。（sigmoid？）

3.无向图？两个神经元同时激活的话，也会同时更新触突的权重，如果算法稳定的话，会导致任意两个神经元之间的前向权重和后向权重保持一直，于是有向图退化成了无向图。向量变成了标量。从神经元的结构来说这个似乎说不过去。我们看到轴突是长长的伸出去的，是孤独的。如果总是和其他神经元成对称关系的话，我们应该会在神经元的解剖图里经常看到69式的神经网络结构。。。。也就是说神经元之间应该是有所不同的，一些神经元更容易连到另一些。

4.自环？一个神经元总是和自身保持一致的，如果算法保持一致，没有例外的话，每个神经元都会出现自环。我们要排除自环现象吗？自然界有带自环的神经元吗?

5.环？一些随机激活的神经元，互相之间形成连接之后，会发生持续震荡的现象，最终一堆连在一起的神经元始终输出1.这种现象如何排除？

6.负值？ 输入是1和0？还是任意实数？还是正实数？ 我们知道神经元的输入可以是实数，比如视网膜的神经，一个视神经细胞代表一个像素的一种视觉分量，可以是代表强和弱。但是否存在负值呢？强和弱的值域是在0和1之间吗？ 这些还需要考证，不过暂定0到100之间吧。输入量应该是大于内部量的。

7.内部神经元的输出就是0和1吗？我很希望就是这样，模拟器就可以写得简单点了。不过生物的东西估计没这么简单。有几种可能性：1就是这样。2可以是任意值。3不同的神经元给的值不同，有的是0和1，有的是0和4等等。

8.可以反向传值吗？也就是说0可以传递吗？就像给同一个神经元充电，但是有一个输入却是0，那电会不会漏到那个输入端去而减少累加值，导致神经元不激活？现在的这套设计，0对于结果的影响太小了，不得不让人想起0也可以传递的想法。