摘要：目录： 什么是因子分析 因子分析的作用 因子分析模型 因子分析的统计特征 因子载荷矩阵的估计方法 因子旋转 为什么要做因子旋转 因子旋转方法 为什么要做因子旋转 因子旋转方法 因子得分 因子分析步骤 举例 因子分析和主成分分析区别 1、什么是因子分析？ 因子分析是一种数据简化技术。 它通过研究众多变 阅读全文

摘要：整理自其他优秀博文及自己理解。 目录 无约束优化 等式约束 不等式约束（KKT条件） 1、无约束优化 无约束优化问题即高数下册中的 “多元函数的极值" 部分。 驻点：所有偏导数皆为0的点； 极值点：在邻域内最大或最小的点； 最值点：在定义域内最大或最小的点； 关系： 驻点不一定是极值点，极值点一定是 阅读全文

摘要：整理自统计机器学习附录C。 目录： 原始问题 对偶问题 原始问题与对偶问题的关系 1、原始问题 $\underset{x \in R^n} {min} \quad f(x)$ $s.t. \quad c_i(x) \leq 0,\quad i=1,2,...,k $ $\ \qquad h_i(x) 阅读全文

摘要：维基百科（最全最详细）： https://en.wikipedia.org/wiki/Matrix_calculus 分子、分母布局： 分子布局：分子为列向量，或者分母为行向量； 分母布局：分母为列向量，或者分子为行向量； 运算类型： 标量，向量，矩阵 运算规则： 矩阵的求导就是在一定规则下把向量或 阅读全文

摘要：梯度出现在 高等数学下册 的 第九章：多元函数微分法及其应用 第七节： 方向导数与梯度中；（讲的非常清楚） 在讲到这个概念的时候，也是从二元函数开始入手，并没有讨论一元的情况，所以根据我的理解，梯度是一个出现在多元函数里面的概念，不存在一元的讨论里面； 同理，偏导数和方向导数只存在于多元函数的情况下 阅读全文