《图解机器学习-杉山将著》读书笔记---CH5
摘要:CH5 稀疏学习 重点提炼 提出稀疏学习的缘故: 虽然带有约束条件的最小二乘学习法结合交叉验证法,在实际应用中是非常有效的回归方法,但是,当参数特别多时,计算参数以及预测值需要大量时间。此时,我们要解决这个问题。 稀疏学习思路: 把大部分参数都设置为0,这样就能快速计算参数以及预测值。 L1约束的最
阅读全文
posted @
2016-11-28 22:13
懒懒作
阅读(597)
推荐(0)
《图解机器学习-杉山将著》读书笔记---CH4
摘要:CH4 带有约束条件的最小二乘法 重点提炼 提出带有约束条件的最小二乘学习法的缘故: 左图中可见:一般的最小二乘学习法有个缺点 对于包含噪声的学习过程经常会过拟合 右图:有了空间约束之后,学习到的曲线能避免过拟合,得到想要的学习结果(x-y关系)。 带有约束条件的最小二乘学习法具体方法 1.部分空间
阅读全文
posted @
2016-11-24 19:47
懒懒作
阅读(1676)
推荐(0)
caffe实战笔记
摘要:Caffe简要介绍: Caffe还没有windows版本,所以我需要远程登录linux服务器 Caffe主要处理图片/图片序列 Caffe读取的数据格式 从专用的数据库中读取(lmdb、leveldb) 直接读取图片 从内存中读取(会占很多内存) 从HDF5文件中读取 从滑动窗口中读取(在大图中滑动
阅读全文
posted @
2016-10-17 11:08
懒懒作
阅读(2308)
推荐(0)
《图解机器学习-杉山将著》读书笔记---CH3
摘要:CH3 最小二乘学习法 重点提炼 提出最小二乘学习法的缘故: 最小二乘学习法公式 对不同模型进行最小二乘法学习,得到最小二乘公式中的参数theta: 1.线性模型 代入3.1公式,对参数求偏导,偏导=0时误差J有极值,此时 ① 延伸1:线性模型中的基函数可以是三角多项式 ② 延伸2:加权最小二乘学习
阅读全文
posted @
2016-10-16 19:27
懒懒作
阅读(2028)
推荐(0)
《图解机器学习-杉山将著》读书笔记---CH2
摘要:CH2 学习模型 重点提炼 学习模型作用: 使特定函数与数据集相近似 学习模型类型: 1.线性模型 (1)最简单的线性模型,缺点:只能表现线性的输入输出函数,不能很好地解决实际问题 (2)基于参数的线性模型,优势:适合实际应用 ① 第一种基函数可以是 ② 第二种基函数可以是 一维的输入x还可以扩展为
阅读全文
posted @
2016-09-21 17:09
懒懒作
阅读(1178)
推荐(0)
《图解机器学习-杉山将著》读书笔记---CH1
摘要:CH1 什么是机器学习 重点提炼 机器学习的种类: 常分为:监督学习、无监督学习、强化学习等 监督学习是学生从老师那获得知识,老师提供对错指示 无监督学习是在没有老师的情况下,学生自习 强化学习是在没有老师指示情况下,学生对预测的结果自我评估,学生为了获得老师的最高嘉奖而不断学习 监督学习应用:手写
阅读全文
posted @
2016-09-12 15:41
懒懒作
阅读(1650)
推荐(0)