2021年7月26日

摘要: 学习总结 机器学习分类 机器学习模型架构 模型误差的来源,训练集测试集的分割方法 深度学习的架构,为什么要“深度”学习? 模型的训练技巧,优化方法 卷积神经网络CNN 未来学习计划 丰富其他深度学习方法知识如lstm,transformer等 上手实战项目 阅读全文
posted @ 2021-07-26 01:22 柯川熬夜 阅读(30) 评论(0) 推荐(0) 编辑

2021年7月25日

摘要: 为什么使用CNN? 相比全连接网络,CNN有更少的参数,且经常用于图像处理问题,这是因为图像处理任务自身的特点: small region: 大部分的pattern其实要比整张的image还要小,对一个neuron来说,假设它要知道一个image里面有没有某一个pattern出现,它其实是不需要看整 阅读全文
posted @ 2021-07-25 02:18 柯川熬夜 阅读(72) 评论(0) 推荐(0) 编辑

2021年7月22日

摘要: 4.classification 分类模型的输出 若是将不同分类编号作为真值,可能让模型误认为相邻的分类是相近的,因此使用向量表示不同类别。 模型最后的输出值需要softmax处理,使得输出值落在0-1区间。softmax和标准化类似。 分类模型loss function 分类模型的loss通过cr 阅读全文
posted @ 2021-07-22 00:42 柯川熬夜 阅读(62) 评论(0) 推荐(0) 编辑

2021年7月21日

摘要: 1.Critical Point 的判断和解决 在模型训练过程中,我们可能会遇到模型loss function无法下降的情况,这可能是遇到了critical point。通过Taylor series approximation,我们可以判断某点是否为critical point以及critical 阅读全文
posted @ 2021-07-21 23:24 柯川熬夜 阅读(233) 评论(0) 推荐(0) 编辑

2021年7月18日

摘要: 和机器学习类似,深度学习也有三个步骤。 1.神经网络 深度学习中的function set即神经网络模型,神经网络中的神经元有不同的激活函数,权重和偏差,不同神经元的连接方式我们也可以自行设置。 全连接前馈神经网络 全连接只相邻两层神经元完全连接,同时输入信号单向向前传播,后向layer不会向前向l 阅读全文
posted @ 2021-07-18 18:04 柯川熬夜 阅读(60) 评论(0) 推荐(0) 编辑

2021年7月17日

摘要: 误差 模型的误差来源有两个,分别是误差(bias)和方差(variance)。 不同复杂程度的模型倾向于不同的误差类型,复杂度较低的模型的方差较小,也就更集中,但是偏差较大,易欠拟合;复杂模型离散程度更大,但偏差小,易过拟合。 我们要做的,就是在两种误差中权衡,找出相对平衡的模型。 误差改进 偏差大 阅读全文
posted @ 2021-07-17 01:09 柯川熬夜 阅读(61) 评论(0) 推荐(0) 编辑

2021年7月15日

摘要: Regression 是一种机器学习的 task,即指 machine 找到的 function,它的输出是一个 scalar,这就叫做 regression。这次就来学习搭建一个用于预测宝可梦进化后的combatpower(cp)值的机器学习模型。 模型搭建步骤 模型假设,根据问题复杂程度选择模型 阅读全文
posted @ 2021-07-15 00:25 柯川熬夜 阅读(57) 评论(0) 推荐(0) 编辑

2021年7月13日

摘要: 实现人工智能是我们的目标,而机器学习是我们实现这个目标的方法,深度学习则是机器学习方法中的其中一种。我们希望机器可以有自主学习的能力,而不是只能在创造者提前设定好的规则下做出行为,这样的机器永远不能超过创作者。 机器学习框架 框架分为两部分;左边的就是学习过程,右边的 testing 就是使用训练好 阅读全文
posted @ 2021-07-13 00:12 柯川熬夜 阅读(132) 评论(0) 推荐(0) 编辑