摘要:
损失函数分为经验风险损失函数和结构风险损失函数。经验风险损失函数指预测结果和实际结果的差别,结构风险损失函数是指经验风险损失函数加上正则项。通常表示为如下:(整个式子表示的意思是找到使目标函数最小时的θ值。) $$\lambda = \frac{1}{C}$$ 一、分类损失函数 1.二分类损失函数 阅读全文
posted @ 2019-02-26 22:52
nxf_rabbit75
阅读(3068)
评论(0)
推荐(1)
摘要:
大致可以分为划分法(Partitioning Methods)、 层次法(Hierarchical Methods)、基于密度的方法(density-based methods)、 基于网格的方法(grid-based methods)、基于模型的方法(Model-Based Methods)。 一 阅读全文
posted @ 2019-02-26 22:28
nxf_rabbit75
阅读(4523)
评论(0)
推荐(1)
摘要:
梯度的方向 梯度:如果函数是一维的变量,则梯度就是导数的方向;如果是大于一维的,梯度就是在这个点的法向量,并指向数值更高的等值线。比如函数f(x,y), 分别对x,y求偏导数,求得的梯度向量就是(∂f/∂x, ∂f/∂y)T,简称grad f(x,y)或者▽f(x,y) 梯度上升:如果我们需要求解损 阅读全文
posted @ 2019-02-26 20:22
nxf_rabbit75
阅读(1981)
评论(0)
推荐(0)
摘要:
一、LR LR,DT,SVM都有自身的特性,首先来看一下LR,工业界最受青睐的机器学习算法,训练、预测的高效性能以及算法容易实现使其能轻松适应工业界的需求。LR还有个非常方便实用的额外功能就是它并不会给出离散的分类结果,而是给出该样本属于各个类别的概率(多分类的LR就是softmax),可以尝试不同 阅读全文
posted @ 2019-02-26 19:35
nxf_rabbit75
阅读(4028)
评论(0)
推荐(0)