拉普拉斯特征映射(Laplacian Eigenmaps)
https://blog.csdn.net/qrlhl/article/details/78066994?locationNum=2&fps=1
1、介绍
拉普拉斯特征映射(Laplacian Eigenmaps)是从局部近似的角度去构建数据之间的关系。 LE是基于图的降维算法,它将要降维的数据构建成图,图中的每个节点和距离它最近的K个节点建立边关系。然后它希望图中相连的点(原始空间中相互靠近的点)在降维后的空间中也尽可能地靠近,从而在降维后仍能保持原有的局部结构关系。
2、推导
拉普拉斯特征映射通过构建邻接矩阵为W的图来重构数据流形的局部结构特征(L= D - W)。如果两个数据实例i和j很相似(具有边),那么i和j在降维后目标子空间中应该尽量接近。拉普拉斯特征映射优化的目标函数如下:
min∑i,j ||yi−yj||2*Wij
它可推导为拉普拉斯矩阵的特征值矩阵的迹,即特征值的和。为了找到使目标函数最小化的降维向量,同时又不让降维后的向量坍塌到过低的维度,故此设置了一个约束条件,YDY=1,再根据拉格朗日乘子法求解带约束的优化问题,得到LY=-ΛDY的广义特征值问题。
参考:《Laplacian Eigenmaps and Spectral Techniques for Embedding and Clustering》