摘要：
线性回归 一、综述 线性回归遇到的问题一般是这样的。我们有m个样本，每个样本对应n维特征和一个结果输出，并且输出结果y是连续性变量，如下: 表示第i个样本输入 表示第i个样本输入的真实输出 表示第i个样本的第j个分量 线性回归问题，就是找到一个合适的函数用于拟合训练数据，使得该函数具备很好的泛化能力 阅读全文
posted @ 2019-01-13 14:56
ordi
阅读(651)
评论(0)
推荐(0)
摘要：
DNN 一、感知机 我们介绍过感知机的模型，它是一个有若干输入和一个输出的模型，如下图: 输出: 激活函数： 从而得到我们想要的输出结果1或者-1。 这个模型只能用于二元分类，且无法学习比较复杂的非线性模型，因此在工业界无法使用。 二、DNN 2.1 DNN介绍 DNN是深度神经网络，其实就是一个多 阅读全文
posted @ 2019-01-11 21:01
ordi
阅读(1488)
评论(0)
推荐(0)
摘要：
逻辑回归 一、综述 线性回归的输出是连续性变量，而对于分类问题，输出是离散性变量。这里，我们的输出。 sigmoid函数 二、假设函数，模型 假设： 则： 三、最大似然函数求 假设只有一个样本，则： 所以，SGD算法的跟新规则如下： 阅读全文
posted @ 2019-01-11 20:17
ordi
阅读(153)
评论(0)
推荐(0)
摘要：
本文通过多项式曲线拟合的问题来解释L2正则化的数学含义，既为何选择w*较小的模型。详细内容如下： 1.数据生成 有一组数据，按照的函数生成，同事有一写随机噪声。 2. 模型 3. 误差函数 E(w)是w的二次函数，故而存在最小值（当取w*时有最小值），当M取不同的值的时候，可以得到不同的模型，而这些 阅读全文
posted @ 2019-01-09 15:07
ordi
阅读(999)
评论(0)
推荐(0)
浙公网安备 33010602011771号