随笔分类 -  Machine Learning

摘要：感知机Perceptrons 学习Hinton神经网络公开课的学习笔记https://class.coursera.org/neuralnets-2012-001 1 感知机历史 在19世纪60年代由Frank Rosenblatt提出，是神经网络和支持向量机的基础。2 模型表示 在hinton的课... 阅读全文

摘要：神经网络Neural Networks 1 为什么要用神经网络？既然前面降了逻辑回归，为什么还需要神经网络呢？前面我们制定在非线性分类问题中，也可以使用逻辑回归进行分类，不过我们的特征变量就变成了原始特征的高阶多项式。假设有100个特征变量，要使用逻辑回归进行分类的话，特征就呈指数增长，不仅计算量十... 阅读全文

摘要：逻辑回归Logistic Regression 1 分类 Classification 首先我们来看看使用线性回归来解决分类会出现的问题。下图中，我们加入了一个训练集，产生的新的假设函数使得我们进行分类出现了错误；而且线性回归计算的结果往往会远小于0或者远大于1，这对于0,1分类变得很奇怪。可见线... 阅读全文

摘要：线性回归Linear Regression MOOC机器学习课程学习笔记1 单变量线性回归Linear Regression with One Variable 1.1 模型表达Model Representation 一个实际问题，我们可以对其进行数据建模。在机器学习中模型函数一般称为hypoth... 阅读全文

摘要：人工神经网络Artificial Neural Nerworks 基本术语概念：人工神经网络（Artificial Neural Networks，ANN）感知器（Perceptron）：以一个实数值向量作为输入，计算输入的线性组合，如果结果大于某个阈值输出1，否则输出-1。权值（weight）：贡... 阅读全文

摘要：决策树学习Decision Tree Learning 1 基本概念 属性（attribute）：树上的每个结点说明了对实例的某个属性的测试，该结点的每一个后继分支对应该属性的一个可能值。 熵（entropy）：刻画了任意样例集的纯度。S相对于c个状态的分类的熵定义为： 信息增益（inform... 阅读全文

摘要：TOM的ML第一章概念学习的读书笔记。 阅读全文