[转载]kernel PCA的基本推导

kernel PCA的基本推导

原文地址：http://blog.sina.com.cn/s/blog_6b8e29550100s0z0.html

要学习kernel PCA就要先从基本的理论入手：

    通过上面两篇PCA的介绍我想对于基本的理论推导和几何物理意义应该比较清楚了。下面就根据别人的博客和文章的基础上简要的推导下kernel PCA以及PCA。应用上给出一个小程序。由于我不是数学专业出身所以对于深层次的的理论我现在不是很懂所以在这不做多的论述，如果需要我下面有推荐的文章。PCA本身也存在这一些显式和隐式的假设，这些对PCA更深入的讨论将在下面一篇中进行论述。

    不过这里讲到Kernel PCA就要讲下为什么发展Kernel PCA，它能解决什么问题，它的优势在什么地方。说到这就不得不说PCA的其中一个假设：PCA的线性假设，PCA的内部模型是线性的，主成分分析之间的关系也是线性的，而对于所研究对象主成分(或主元)是非线性的情况下，PCA就失去了有效性。在种情况下，kernel PCA就应运而生了。并且kernel PCA是目前比较流行的方法。

说明：下面的这些话不是我说的，我是在他人的基础上弄清楚Kernel PCA的推导过程后写出来的。

为了调理清晰沿用别人的结构

1. 1.     传统PCA的基本推导

7.     这一推导过程主要参考一篇博客

网址：

http://zhanxw.com/blog/2011/02/kernel-pca-原理和演示/