摘要： 废话不说，直奔主题。 人物背景：小吴，我的同学，本硕985，计算机系，编程与吹水能力俱佳，曾徒手撕数据结构并凭三寸不烂之舌骗到我同导师的小美人做女票，性格贱萌，五官三观均未跑偏。 故事概况：秋招提前批，面试屡被怼，怼得稀烂那种。曾创下被百度hr亲自打电话告知面挂、撕出代码被阿里面试官火速回绝等辉煌战 阅读全文

摘要： 基本优化算法： 一、SGD 1.含义： 随机抽取m个小批量样本，计算梯度平均值，再进行梯度的更新。 2.算法： 3.学习率衰减： ，α=k/τ 说明：初始以ε0的学习率进行线性衰减，直到τ次迭代，τ次迭代之后学习率稳定在ετ。 4.参考： https://blog.csdn.net/bvl10101 阅读全文

摘要： 一、1范数 1.定义： ║A║1 = max{ ∑|ai1|, ∑|ai2| ,…… ,∑|ain| } (列和范数，A每一列元素绝对值之和的最大值) 二、2范数 1.定义： ║A║2 = A的最大奇异值 = ( max{ λi(A^H*A) } ) ^{1/2} 三、无穷范数 1.定义： ║A║∞ 阅读全文

摘要： 一、基本原理 谱聚类是一种基于图论的算法，主要思想是把所有的数据看做空间中的点，这些点之间用带权边连接，距离越近权重越大，通过对这些点组成的图进行切割，让切图后的子图间的权重和尽可能小，子图内的权重尽可能大，从而达到聚类的目的。 切图的过程是：定义一个子图与其他子图间的权重和，同时要求每个子图的个数 阅读全文

摘要： 一、SVD 1.含义： 把矩阵分解为缩放矩阵+旋转矩阵+特征向量矩阵。 A矩阵的作用是将一个向量从V这组正交基向量的空间旋转到U这组正交基向量的空间，并对每个方向进行了一定的缩放，缩放因子就是各个奇异值，如果V维度比U大，则说明进行了投影。 SVD分解表示把旋转、缩放、特征向量分离出来。 二、SVD 阅读全文

摘要： 一、SVM 1、应用场景： 文本和图像分类。 2、优点： 分类效果好；有效处理高维空间的数据；无局部最小值问题；不易过拟合（模型中含有L2正则项）； 3、缺点： 样本数据量较大需要较长训练时间；噪声不能太多；对缺失数据敏感； 二、决策树 1、应用： 金融和电子商务 2、优点： 同时处理多种类型的数据 阅读全文

摘要： 一、符号定义 al: 第l层的输出值（经过了激活函数）。在DNN中是向量，在CNN中是张量。 σ：激活函数的表达形式。 zl: 第l层的输出值（未经过激活函数）。在DNN中是向量，在CNN中是张量。 wl: 第l层的权重。 y: gt。 ：点积扩展，表示用后者构造一个与前者大小相同的矩阵，再进行点乘 阅读全文

摘要： 一、static 1.作用： 静态变量/函数：在整个文件内可见，不会被其他文件所用；静态变量；会被自动初始化为0； 类中的静态变量：类的成员，类对象公用 类中的静态函数：只能访问静态变量 2.参考： https://www.cnblogs.com/wuhezhi/p/4832052.html 二、c 阅读全文

摘要： 一、CART（分类回归树） 1.思想： 一种采用基尼信息增益作为划分属性的二叉决策树。基尼指数越小，表示纯度越高。 2.回归： 每个节点都有一个预测值，预测值等于属于该节点的所有样例的平均值，分支时，选择每个属性的每个阈值的最好分割点，衡量的标准是最小化均方差。 训练：对训练样本的第i（1<=i<= 阅读全文

摘要： 一、书籍 阅读全文