摘要：
C++中引用（&）的用法和应用实例对于习惯使用C进行开发的朋友们，在看到c++中出现的&符号，可能会犯迷糊，因为在C语言中这个符号表示了取地址符，但是在C++中它却有着不同的用途，掌握C++的&符号，是提高代码执行效率和增强代码质量的一个很好的办法。在c++学习提高篇(3)---隐式指针的文章中我详... 阅读全文
摘要：
最优间隔分类器问题本次课程大纲：1、最优间隔分类器2、原始优化问题&对偶优化问题（KKT条件）3、SVM对偶问题4、核方法（下一讲）复习：支撑向量机中改动的符号：输出y∈{-1,+1}h输出的假设值也改为{-1,+1}g(z) = { 1 ,如果z>=0; -1,如果z> 0；如果y(i)=-1，为... 阅读全文
摘要：
朴素贝叶斯本次课程大纲：1、朴素贝叶斯-朴素贝叶斯事件模型2、神经网络（简要）3、支撑向量机（SVM）铺垫–最大间隔分类器复习：1、朴素贝叶斯一种生成学习算法，对p(x|y)建模。例：垃圾邮件分类以邮件输入流作为输入，输出y为{0,1}，1为垃圾邮件，0为非垃圾邮件。将邮件文本表示为一个输入向量x1... 阅读全文
摘要：
生成学习算法本次课程大纲：1、生成学习算法2、高斯判别分析（GDA，Gaussian Discriminant Analysis）-高斯分布（简要）-对比生成学习算法&判别学习算法（简要）3、朴素贝叶斯4、Laplace平滑复习：分类算法：给出一个训练集，若使用logistic回归算法，其工作方式是... 阅读全文
摘要：
牛顿方法本次课程大纲：1、牛顿方法：对Logistic模型进行拟合2、指数分布族3、广义线性模型（GLM）：联系Logistic回归和最小二乘模型复习：Logistic回归：分类算法假设给定x以为参数的y=1和y=0的概率：求对数似然性：对其求偏导数，应用梯度上升方法，求得：本次课程介绍的牛顿方法是... 阅读全文
摘要：
欠拟合与过拟合概念本次课程大纲：1、局部加权回归：线性回归的变化版本2、概率解释：另一种可能的对于线性回归的解释3、Logistic回归：基于2的一个分类算法4、感知器算法：对于3的延伸，简要讲复习：–第i个训练样本令，以参数向量为条件，对于输入x，输出为：n为特征数量定义成本函数J，定义为：m为训... 阅读全文
摘要：
监督学习应用与梯度下降本课内容：1、线性回归2、梯度下降3、正规方程组（复习）监督学习：告诉算法每个样本的正确答案，学习后的算法对新的输入也能输入正确的答案1、线性回归例：Alvin汽车，先让人开车，Alvin摄像头观看（训练），而后实现自动驾驶。本质是一个回归问题，汽车尝试预测行驶方向。例：上一节... 阅读全文
摘要：
机器学习的动机与应用工具：需正版：Matlab，免费：Octave定义（Arthur Samuel 1959）：在不直接针对问题进行编程的情况下，赋予计算机学习能力的研究领域。例：Arthur的下棋程序，计算走每一步获胜的概率，最终打败程序作者本人。（感觉使用决策树思想）定义2（Tom Mitche... 阅读全文
摘要：
欧几里德相似度（Euclidean Distance）最初用于计算欧几里德空间中两个点的距离，以两个用户x和y为例子，看成是n维空间的两个向量x和y, xi表示用户x对itemi的喜好值，yi表示用户y对itemi的喜好值，他们之前的欧几里德距离是对应的欧几里德相似度，一般采用以下公式进行转换：距离... 阅读全文
摘要：
前言看完神经网络及BP算法介绍后，这里做一个小实验，内容是来自斯坦福ULIDL教程，实现图像的压缩表示，模型是用神经网络模型，训练方法是BP后向传播算法。理论 在有监督学习中，训练样本是具有标签的，一般神经网络是有监督的学习方法。我们这里要讲的是自编码神经网络，这是一种无监督的学习方法，它是让输... 阅读全文