随笔分类 - 深度学习系列
摘要：拉格朗日乘数法与KKT条件 今天讲解一下深度学习优化方法，纯数学知识 注：不等式约束优化问题中的拉格朗日乘数也称为KKT乘数
阅读全文
摘要：在机器学习的面试中，能不能讲清楚偏差方差，经常被用来考察面试者的理论基础。偏差方差看似很简单，但真要彻底地说明白，却有一定难度。作者能力有限，只能讲解到这种程度，欢迎大家指正。 模型与训练模型的概念 偏差和方差概念举例 偏差和方差分解 打靶图讲解 高偏差和高方差的解决办法 如何判断模型处于高偏差还是
阅读全文
摘要：我只是一个搬运工： https://www.cnblogs.com/SivilTaram/p/graph_neural_network_1.html https://www.cnblogs.com/SivilTaram/p/graph_neural_network_2.html https://ww
阅读全文
摘要：logits表示网络的直接输出 。没经过sigmoid或者softmax的概率化。from_logits=False就表示把已经概率化了的输出，重新映射回原值。
阅读全文
摘要：Tensorflow报错：tensorflow.python.framework.errors_impl.InternalError: Blas GEMM launch failed Tensorflow程序运行中出现"tensorflow.python.framework.errors_impl.
阅读全文
摘要：深度学习系列 | Global Average Pooling是否可以替代全连接层？ Global Average Pooling(简称GAP，全局池化层)技术最早提出是在这篇论文（第3.2节）中，被认为是可以替代全连接层的一种新技术。在keras发布的经典模型中，可以看到不少模型甚至抛弃了全连接层
阅读全文
摘要：Dropout是过去几年非常流行的正则化技术，可有效防止过拟合的发生。但从深度学习的发展趋势看，Batch Normalizaton(简称BN)正在逐步取代Dropout技术，特别是在卷积层。本文将首先引入Dropout的原理和实现，然后观察现代深度模型Dropout的使用情况，并与BN进行实验比对
阅读全文
摘要：参考文献：https://blog.csdn.net/guanxs/article/details/102471843 在TensorFlow 1.x静态图时代，我们知道每个静态图都有两部分，一部分是前向图，另一部分是反向图。反向图就是用来计算梯度的，用在整个训练过程中。而TensorFlow 2.
阅读全文
摘要：相信每一个学习深度学习的人来说都知道Google的深度学习框架TensorFlow，估计每个人都想成为一个TF Boy（TensorFlow Boy）。我也是这个想法，于是我踏上了安装TensorFlow的不归路，期间遇到很多错误，最终都没装成功，因为想装好它需要装太多东西，显卡驱动啊，CUDA啊，
阅读全文
浙公网安备 33010602011771号