AI（1）-常用名词1

1.随机变量：随机试验各种结果的实值单值函数。

 例如： 抛硬币正面H， 反面T  样本空间： S={HH,HT,.TH,TT}以Y记两次投掷硬币得到反面T的总数，则Y是随机变量。

 随机变量的分布函数（离散、连续）、分布率（连续）、密度函数（离散）有什么联系和区别？

2.  特征分解：是将矩阵分解为由其特征值和特征向量表示的矩阵之积的方法。

   求解方法三种：

    2.1矩阵分解 

   2.2特征分解  主要求特征方程、特征根、特征向量

   2.3给定一个矩阵  利用单位特征向量

     特征向量一定是线性无关的。矩阵存在正定性。

     2.4奇异值分解 和伪逆。

 主成分贡献率及累计贡献率。

3.拉格朗日乘子法(Lagrange Multiplier)和KKT(Karush-Kuhn-Tucker)条件

       最优解  凸函数

 4.梯度优化

         凸、凹、拐点、波浪都可用。
         初始点，求导；步长、超参数。

5.朴素贝叶斯
          输入 特征条件概率

          输出 后验概率最大（先验概率、条件概率、联合概率、后验概率）

6.极大似然估计     

           先验、条件。 

 7. L1 L2 正则 

      L1:   解空间 多边 拉普拉斯先验

      L2：解空间 圆    引入高斯先验