数学统计基础-线形代数

1、概念

线性(linear)指量(变量)与量(变量)之间按比例、成直线关系，在数学上可以理解为一阶导数为常数的函数；

而非线性(non-linear)是指不成比例、没有直线关系，一阶导数不是常数的函数。

线性代数中的基本量指的是向量，基本关系是严格的线性关系；

也就是可以简单的将线性代数理解为向量与向量之间的线性关系的映射。

 

 2、向量(有大小和方向)

向量的运算：

 

 

 正交向量

 3、矩阵的各种类型

左行右列，行*列的意思

 

 

矩阵相等：

方阵：

 

负矩阵、上三角矩阵、下三角矩阵

 

 对角矩阵：

 

 单位矩阵：

 

对称矩阵：

 

 

4、矩阵的各种运算

 

矩阵的加减：

 

 

 

 矩阵的乘法：

数乘：将数λ与矩阵A相乘，就是将数λ与矩阵A中的每一个元素相乘，记作λA；结果C=λA

矩阵与向量的乘法

 

 

 

 

 

另一种是分别相乘再相加

矩阵的转置--行和列互换

 

方阵的行列式

 

 

 

 5、行列式计算方法

 

 

 

去掉第一行第一列剩余的称为余子式

 

 

 

 

 行列式计算降维计算更方便

a(i,1)的乘以余子式A(j,1)，若i！=j代表乘以其他行列的余子式，该乘积为零

 

 

行列式的性质：

 

 

 

 

 

6、伴随矩阵和可逆矩阵

伴随矩阵

 

 

 7、矩阵的运算规律

 8、矩阵的初等变换

 

 矩阵的初等变换

 9、矩阵的秩

 

 

 

 

 

 10、向量组

 

 

 

 

 

 

 11、线性方程组的求解(齐次方程&非齐次方程)

 

 

 

特殊解+通解

 

非齐次方程的解

特解 和 通解 

 

 

 

  

令b=0求基础解决

非齐次方程的通解=齐次方程的通解+非齐次方程的特解

 

12、特征值和特征向量--是针对方阵而言的

 

 

 

 特征值--特征根

特征值的性质

 

 

 13、统计学基础-概率论

统计指标：期望、方差、协方差(正相关、负相关)

降维目的：

　　是为了避免过度拟合

　　去除变量与变量之间的共线性

　　运算效率提升

PCA降维

PCA通过线性变换将原始数据变换为一组各维度线性无关的表示，可用于提取数据的主要特征分量，常用于高维数据的降维。

VIF代表方差膨胀因子