一些知识点的初步理解_4(协方差矩阵,ing...)

      每次看公式用到协方差矩阵时，要跑去网站上看一下协方差矩阵的定义，当然一看就能看明白，可是到了下次再碰到时，不查资料又卡住了，卡在那里令人纠结，这只能说明没有真正理解协方差矩阵。这次顺便做下笔记，加深下理解。

      首先要清楚一般出现协方差矩阵时就会出现多维列向量，这里假设为n维，另外既然有协方差字眼，那肯定是一个随机变量。这里假设有d个随机变量x1，x2,x3,…,xd,只不过每个随机变量x又是由n个标量组成的列向量。简单的理解就是说在n维空间中有d个随机的点。现在我们需要求的是关于n维空间中这d个点的协方差矩阵。

      用uk列向量表示d个点的平均值，uk中的每一个元素对应d个点中相应维数的平均数。所以协方差矩阵为n*n维的。其每个元素的计算公式如下：

     

　　（这个公式是从百度百科上截的，貌似这里的X1，X2，...，Xn和我上面描述的不同，该公式里面指的是由每一维的d个值构成的向量...不管怎样，该博客中文字的描述是正确的）

      其数学含义是协方差矩阵的第i行第j列的元素表示为，d个随机变量点中的第i维和第j维的协方差。因为每一维的d个数都可以看做算是一维空间中的d个实数，因此它有自己的平均数和方差，每2维之间也就有协方差。

      希望以后不要再卡住了！