红豆生南国 是很遥远的事情

摘要： 目录1. 概念2. 性质3. 相似矩阵4. 矩阵的行列式与迹5. 特征值与特征向量分解矩阵 1. 概念 特征值与特征向量的英文是 eigenvalue 和 eigenvector， 这个前缀 eigen- 起源于德语，意思是 proper(这里应该是专属的意思）、characteristic（特征的 阅读全文

摘要： [POC] 1. 奇异值分解的本质 特征值分解只能够对于方阵提取重要特征， Ax=λx λ为特征值 x为对应的特征向量 奇异值分解可以对于任意矩阵； 注意看中间的矩阵是一个对角矩阵，颜色越深越起作用-值越大 颜色越浅越接近0 U是左奇异矩阵，V是右奇异矩阵，均是正交矩阵， 中间的Σ是对角阵，除对角线 阅读全文

摘要： 目录1. 降维的方式2. PCA的一般步骤3. 思想2 最小化投影距离4. Kernelized PCA 1. 降维的方式 对于维度灾难、数据冗余，这些在数据处理中常见的场景，我们不得不进一步处理，得到更精简更有价值的特征信息，所用的的各种方法的统称就是降维 特征抽取：叫做特征映射更合适。因为它的思 阅读全文

摘要： 目录1.什么是GMM2. GMM 算法的一般流程3. 使用模型 1.什么是GMM 假设不同的簇数据来自于不同的高斯分布。或者换句话说，高斯混合模型就是当成数据集是由多个高斯分布混合而成的。这是这个模型的核心思想. 一维的gauss分布： 多变量（比如d个变量）高斯分布的概率密度函数： μ是一个n维向 阅读全文

摘要： 目录1. AP聚类算法2. Spectral Clustering 谱聚类 参考链接：https://www.cnblogs.com/pinard/p/6221564.html 1. AP聚类算法 affinity 相似度 propgaption 传播 exemplars 模范 代表 Affinit 阅读全文

摘要： 目录1.凝聚聚类 Agglomerative Clustering2. 分裂聚类3. BIRCH 1.凝聚聚类 Agglomerative Clustering 在不同层次上对数据集进行划分，形成树状的聚类结构。AggregativeClustering是一种常用的层次聚类算法。 最初将每个样本点看 阅读全文

摘要： 目录1. DBSCAN2. OPTICS2. MeanShift 1. DBSCAN Density based clustering DBSCAN不要求我们指定cluster簇的数量，避免了异常值，并且在任意形状和大小的cluster簇中工作得非常好。它没有质心，聚类簇是通过将相邻的点连接在一起的 阅读全文

摘要： 目录1. k-Medoids2. 二分KMEANS3. KMeans++4. elkan KMeans5. min batch KMeans算法6.小结： 1. k-Medoids 之前的kmeans算法 对于异常点数据特别敏感，更新中心点的时候，是对于该簇的所有样本点求平均，这种方式对于异常样本特 阅读全文

摘要： 目录1. 什么是聚类2. 代码实现 1. 什么是聚类 无监督机器学习的一种 输入数据只有X 没有y 将已有的数据 根据相似度 将划分到不同的簇 （花团锦簇） 步骤： 随机选择k个簇的中心点 样本根据距离中心点的距离分配到不同的簇 重新计算簇的中心点 重复 2-3直到所有样本 分配的簇不再发生改变 距 阅读全文

摘要： 目录1. SVM概率化输出2. 合页损失 1. SVM概率化输出 标准的SVM进行预测 输出的结果是： 是无法输出0-1之间的 正样本 发生的概率值 sigmoid-fitting 方法： 将标准 SVM 的输出结果进行后处理，转换成后验概率 A,B 为待拟合的参数， f 为样本 x 的无阈值输出。 阅读全文