KID_XiaoYuan

【机器学习】梯度检验

摘要：梯度检验的目的：当我们对一个复杂的模型，使用梯度下降算法时，可能会存在一些不容易察觉的错误，这意味着，虽然看上去代价在不断的减小，俺单身实际上最终结果并不是最优解。为了避免这种问题，我们采用一种被称作梯度检验的方法来检验我们所计算出来的导数的值是不是我们所想要的。这种方法的思想是通过梯度值来检验阅读全文

posted @ 2017-08-03 17:23 KID_XiaoYuan 阅读(501) 评论(0) 推荐(0)

【机器学习】反向传播算法 BP

摘要：知识回顾 1：首先引入一些便于稍后讨论的新标记方法：假设神经网络的训练样本有m个，每个包含一组输入x和一组输出信号y，L表示神经网络的层数，S表示每层输入的神经元的个数，SL代表最后一层中处理的单元个数。之前，我们所讲到的，我们可以把神经网络的定义分为2类： 1）二元分类：SL = 1,其中y 阅读全文

posted @ 2017-08-03 15:11 KID_XiaoYuan 阅读(2804) 评论(2) 推荐(0)

【机器学习】深入理解人工神经网络结构

摘要：一个简单的神经网络结构：如图中如果 x1 x2 ∈{0,1} y1 = x1 && x2 那么我们的输出函数hΘx = g (-30 + 20x1+20x2) 我们知道 g(x)的图像是所以我们有hΘ(x) ≈x1 & x2 这就是一个AND函数，同理，我们可以写一个OR函数的模型：我们有hΘ 阅读全文

posted @ 2017-08-02 11:54 KID_XiaoYuan 阅读(486) 评论(0) 推荐(0)

【机器学习】初识人工神经网络

摘要：神经网络模型的构成：神经元如图是一个神经元模型，这里a1-an代表输入的各个分量。w1-wn代表神经网络的各个突触的权值。b表示一个偏置。f:传递函数，常是非线性函数。t：神经元的输出。用数学表示为,其中为权向量，为的转置为输入向量为偏置为传递函数意义为求得输入向量与权向量的內积后，经阅读全文

posted @ 2017-07-31 17:09 KID_XiaoYuan 阅读(222) 评论(0) 推荐(0)

【机器学习】通过正则化解决过拟合问题

摘要：过拟合问题的表现：在之前的线性回归问题中，我们通过拟合一条曲线来预测新的样例，在这条直线拟合的过程中，可能会出现欠拟合或过拟合现象，如图所示1是欠拟合，2是过拟合：过拟合问题往往表现为虽然图像经过了所有的点，但是函数仍然存在波动，即不稳定平滑。过拟合通常伴随着高方差，导致不能应用到新的数据中去阅读全文

posted @ 2017-07-31 10:10 KID_XiaoYuan 阅读(1139) 评论(0) 推荐(0)

传送门

该文被密码保护。阅读全文

posted @ 2017-07-28 11:49 KID_XiaoYuan 阅读(149) 评论(0) 推荐(0)

【机器学习】逻辑回归

摘要：逻辑回归问题举例：垃圾邮件分类问题：如何根据邮件的特性判断他是否是垃圾邮件？这是一个二元逻辑回归问题，分类结果有两类，1：是垃圾邮件，这是一个负向类，用0来表示。2：不是垃圾邮件，这是一个正向类，用1来表示。线性的回归模型我们只能预测连续的值，然而这种二分类问题，它的值通常是离散的，要预测这样阅读全文

posted @ 2017-07-28 10:55 KID_XiaoYuan 阅读(400) 评论(0) 推荐(0)

【机器学习】用Octave实现一元线性回归的梯度下降算法

摘要： Step1 Plotting the Data 在处理数据之前，我们通常要了解数据，对于这次的数据集合，我们可以通过离散的点来描绘它，在一个2D的平面里把它画出来。 6.1101,17.592 5.5277,9.1302 8.5186,13.662 7.0032,11.854 5.8598,6.82 阅读全文

posted @ 2017-07-27 21:26 KID_XiaoYuan 阅读(3322) 评论(0) 推荐(0)

【机器学习】对梯度下降算法的进一步理解

摘要：单一变量的线性回归让我们依然以房屋为例，如果输入的样本特征是房子的尺寸，我们需要研究房屋尺寸和房屋价格之间的关系，假设我们的回归模型训练集如下其中我们用 m表示训练集实例中的实例数量， x代表特征（输入）变量， y代表目标变量（x,y）代表实例根据线性回归模型hΘ(x） = Θ0+Θ1*x1 阅读全文

posted @ 2017-07-24 15:22 KID_XiaoYuan 阅读(449) 评论(0) 推荐(0)

【机器学习】从分类问题区别机器学习类型与初步介绍无监督学习算法 PAC

摘要：如果要对硬币进行分类，我们对硬币根据不同的尺寸重量来告诉机器它是多少面值的硬币这种对应的机器学习即使监督学习，那么如果我们不告诉机器这是多少面额的硬币，只有尺寸和重量，这时候让机器进行分类，希望机器对不同种类的硬币分类，这种机器学习方式就是无监督学习。可以从下图看出，监督学习，根据颜色（面值）可以阅读全文

posted @ 2017-07-20 10:44 KID_XiaoYuan 阅读(636) 评论(0) 推荐(0)

导航

公告