随笔分类 -  机器学习

为什么交叉熵损失更适合分类问题
摘要：为什么交叉熵损失更适合分类问题 作者：飞鱼Talk 链接：https://zhuanlan.zhihu.com/p/35709485 来源：知乎 著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。 Cross Entropy Error Function（交叉熵损失函数） 例子 表 阅读全文
posted @ 2020-10-31 10:01 非著名八倍镜的小仙女 阅读(2260) 评论(0) 推荐(0)
模型防止过拟合
摘要：模型防止过拟合 1.正则化技术 L1正则化 L2正则化 dropout 数据增强 提前停止 正则化对系数进行惩罚。在深度学习中，它实际上惩罚了节点的权重矩阵。 01 L1和L2正则化 它是最常见的正则化类型。在回归模型中，L1正则化称为Lasso回归，L2称为岭回归。 成本函数=损失（交叉熵）+正则 阅读全文
posted @ 2020-10-31 09:54 非著名八倍镜的小仙女 阅读(289) 评论(0) 推荐(0)
机器学习常用损失函数
摘要：机器学习常用损失函数 转载自：机器学习常用损失函数小结 - 王桂波的文章 - 知乎 https://zhuanlan.zhihu.com/p/776861188 1.Loss Function、Cost Function 和 Objective Function 的区别和联系 损失函数 Loss F 阅读全文
posted @ 2020-10-31 09:53 非著名八倍镜的小仙女 阅读(1709) 评论(0) 推荐(0)
loss与准确率的关系
摘要：loss与准确率的关系 目录 背景 定义 关系 目录 在进行一项分类任务训练时，观察到验证集上的accuracy增加的同时，loss也在增加，因此产生了一些疑惑，对accuracy和loss之间的关系进行探索。 定义 在理解他们的关系之前，先来回顾一下什么是交叉熵损失和准确率。交叉熵损失函数：交叉熵 阅读全文
posted @ 2020-10-31 09:52 非著名八倍镜的小仙女 阅读(3615) 评论(0) 推荐(0)
Batch、Epoch和Iteration的理解
摘要：写在前面： 从别处复制过来，感觉写的清晰明了，当作复习材料，原作者链接在文末。 在训练神经网络的时候，我们难免会看到Batch、Epoch和Iteration这几个概念。曾对这几个概念感到模糊，看了网上的一些文章后，在这里做几个小小的总结。 👉如有错误之处，还望指出。 名词解释： 【 图片来源：h 阅读全文
posted @ 2020-10-31 09:50 非著名八倍镜的小仙女 阅读(975) 评论(0) 推荐(1)
深度学习面试题
摘要：深度学习面试题之CNN 1、介绍下卷积操作的作用 卷积网络中的卷积核参数是通过网络训练出来的 通过卷积核的组合以及随着网络后续操作的进行，卷积操作可获取图像区域不同类型特征；基本而一般的模式会逐渐被抽象为具有高层语义的“概念”表示，也就是自动学习到图像的高层特征。 2、CNN结构特点 局部连接，权值 阅读全文
posted @ 2020-10-31 09:45 非著名八倍镜的小仙女 阅读(412) 评论(0) 推荐(0)
Alexnet网络
摘要：Alexne t网络 从这个图我们可以很清楚地看到Alexnet的整个网络结构是由5个卷积层和3个全连接层组成的，深度总共8层。图片上已经有一个较清楚的层与层直接转换的过程，那么接下来就对各层做个简单的解读。 conv1 输入Input的图像规格： 224X224X3（RGB图像）,实际上会经过预处 阅读全文
posted @ 2020-10-19 08:28 非著名八倍镜的小仙女 阅读(256) 评论(0) 推荐(0)