模糊认知图的学习

此篇随笔仅用于记录学习内容方便以后查阅，主要参考学习了 迟亚雄. 模糊认知图智能学习算法与应用研究[D].

基本理论与方法

基于Hebbian的学习方法

　　核心思想：神经元的激活顺序和方式会影响权重的变化，若两神经元异步激活则降低权值，同步激活则增高权值。

　　特点：总是依赖专家知识。

　　非线性Hebbian学习算法^[1]（Nonlinear Hebbian Learning, NHL）的初始化需要专家对concept进行干预，比如建议各concept的模糊值，这些模糊值的取值范围以及各concept之间的因果关系等。

　　数据驱动型NHL^[2]（Data-driven Nonlinear Hebbian Learning, DDNHL），与NHL类似，但DDNHL利用了可观测到的数据进行学习来提高 FCMs 的模型质量。

　　集成学习与NHL相结合的学习算法^[3]，用NHL训练模型，再使用集成学习算法提高性能。在学习模糊认知图的准确性方面由于DDNHL。

基于进化计算的学习方法

　　Hebbian的方法比较依赖专家知识，进化计算的目的是从数据中学习模糊认知图，搜索最优的模糊认知图。进化算法是一种启发式算法，比较常见的启发式算法有：遗传算法，粒子群优化算法，模拟退火，蚁群优化等。

面临的问题

　　模糊认知图扩展到一定规模时，面临的问题是多维度优化问题，因为随着决策变量的增加，需要确定的权重关系的数量会呈指数增长，会造成维度灾难。 从优化的角度看，训练样本数量不变的情况下，决策变量的数量增加会导致过拟合。当数据的维度到达一定高度，如果要找到最优解或者仅仅达到低维度的同等性能，则需要几何数量增长的数据。真实模糊认知图的网络密度要比算法学习得到的网络模型的密度低的多。

基于神经网络和进化计算的模糊认知图学习

Reference

[1] Elpiniki Papageorgiou, Chrysostomos Stylios, Peter Groumpos. Fuzzy Cognitive Map Learning Based on Nonlinear Hebbian Rule[M]// AI 2003: Advances in Artificial Intelligence. Springer Berlin Heidelberg, 2003.

[2] Stach W , Kurgan L A , Pedrycz W . Data-driven Nonlinear Hebbian Learning method for Fuzzy Cognitive Maps[C]// IEEE IEEE International Conference on Fuzzy Systems. IEEE, 2008.

[3] Papageorgiou E I , Kannappan A . Fuzzy cognitive map ensemble learning paradigm to solve classification problems: Application to autism identification[J]. Applied Soft Computing Journal, 2012, 12(12):3798-3809.

[] 迟亚雄. 模糊认知图智能学习算法与应用研究[D].