《数据挖掘导论》研读(6)

神经网络技术

神经网络概述

1.神经网络模型

　　单层神经网络有一个输入层和一个输出层组成；多层神经层由一个输入层、一个输出层和一个或多个隐藏层组成。

2.神经网络的输入和输出数据格式

　　神经网络的输入向量数据必须是数值类型，且必须落在[0,1]闭区间。常见的数据归一化方法：（1）十进制缩放 （2）Min-Max标准化 （3）Z-Score标准化 （4）对数标准化 （5）Atan函数转换

　　神经网络的输出节点表示为[0,1]区间内的连续值

3.激励函数

　　需要满足两个要求：（1）函数必须输出[0,1]之间的值；（2）函数在充分活跃时，将输出一个接近1的值。

神经网络训练

1.反向传播学习

2.自组织映射的无指导聚类

　　Kohonen网络是通过自组织学习完成网络训练，自组织功能是通过竞争学习实现的。

　　步骤一：找出获胜输出节点

       步骤二：校正权值向量，奖赏获胜输出节点

　　步骤三：完成聚类

3.实验：应用BP算法j建立前馈神经网络

实验一：建立逻辑异或模型

1.准备训练数据

2.定义网络体系结构，设置相关参数：隐层、学习率、周期、收敛性

     

3.训练网络

4.解释训练结果

5.结果不理想，更改结构，调整参数，继续实验

 实验二：基于iris数据集的神经网络分类模型

 

神经网络的优势和缺点

优势：

1.更为擅长处理包含大量噪声数据的数据集；

2.还可以处理分类类型数据；

3.已在很多领域广泛应用，且表现良好；

4.既可用于有指导的学习。也可用于无指导的学习。

劣势：

1.黑盒子模型，对于自身的解释能力不强；

2.不能保证收敛到最理想的结果；

3.很容易过度训练。