随笔分类 -  machine learning笔记

摘要:在设计一个机器学习系统时我们应该考虑什么 假设我们要设计一个垃圾邮件分类的机器学习系统,给定一定数量的训练集,我们需要为每一份邮件设置一个向量。这个向量中可能包括deal、buy、name等条目,每个向量可能有10000到50000个条目。如果邮件中出现了其中的条目,我们就可以把它当作垃圾邮件。我们 阅读全文
posted @ 2018-03-26 15:47 挤成肉夹馍 阅读(126) 评论(0) 推荐(0)
摘要:代价函数 符号解释: 利用神经网络解决分类问题,可分为二元分类和多元分类: 其中,K=L,s1=3,s2=5,s3=5,sL=4。 逻辑回归和神经网络的代价函数: 反向传播BackPropagation 为了利用梯度下降或其他高级优化算法来得到代价函数的最小值minθJ(θ),需要计算。 当训练集只 阅读全文
posted @ 2018-03-26 15:46 挤成肉夹馍 阅读(95) 评论(0) 推荐(0)
摘要:决定下一步做什么 假设我们已经创建了一个用于预测房价的正则化的线性回归模型,但发现这个模型并不能很好的拟合新的样本,接下来我们就需要改进我们的模型,我们应该怎么做? - 获取更多的训练集 - 尝试用较少的特征值来避免过拟合 - 尝试添加新的特征值 - 尝试在假设函数中用不同的特征值组合 - 尝试减小 阅读全文
posted @ 2018-03-26 15:46 挤成肉夹馍 阅读(91) 评论(0) 推荐(0)
摘要:AND运算 OR运算 NOT运算 XNOR运算 利用神经网络解决多元分类问题 例如,我们需要识别给定的图像是行人,汽车,摩托车还是货车。 这个问题可用以下的神经网络来表示: 用y(i)来表示结果 训练集可表示为 输出结果为 阅读全文
posted @ 2018-03-13 16:50 挤成肉夹馍 阅读(107) 评论(0) 推荐(0)
摘要:神经元模型 可以将神经元看作一个计算单元,它从输入神经接受一定的信息,做一些计算,然后将结果通过轴突传送到其它节点或大脑中的其它神经元。 将神经元模拟为一个逻辑单元,如下: 在上图中,输入单元为x1 x2 x3,有时也可以加上额外的x0作为偏置单位,x0的值为1,是否添加偏置单位取决于其是否对例子有 阅读全文
posted @ 2018-03-13 16:04 挤成肉夹馍 阅读(157) 评论(0) 推荐(0)
摘要:分类问题Classification 一些典型的分类问题,如: y的取值不是一条曲线,而是几个离散值。 逻辑回归模型Logistic regression的假设函数表达式 逻辑回归模型中,要使 0<=hθ(x)<=1,可令 其函数图像为 称其为Sigmoid Function或Logistic Fu 阅读全文
posted @ 2018-02-27 23:31 挤成肉夹馍 阅读(118) 评论(0) 推荐(0)
摘要:多元线性回归Linear Regression with multiple variables 当有一个特征输入时,h(x)函数可表示为 当有多个特征输入时,h(x)函数可表示为 设x0 = 1,则特征输入和参数可表示为: h(x)函数就可表示为: 代价函数cost function: 多元线性回归 阅读全文
posted @ 2018-02-19 20:25 挤成肉夹馍 阅读(163) 评论(0) 推荐(0)
摘要:机器学习定义 Arthur Samuel:the field of study that gives computers the ability to learn without being explicitly programmed. Tom Mitchell:A computer program 阅读全文
posted @ 2018-02-06 21:11 挤成肉夹馍 阅读(132) 评论(0) 推荐(0)