#Header1_HeaderTitle{ font-size:50px }

随笔分类 -  深度学习

国内常见的pip源和使用方法
摘要：国内常见的pip源 阿里云 http://mirrors.aliyun.com/pypi/simple/ 中国科技大学 https://pypi.mirrors.ustc.edu.cn/simple/ 豆瓣(douban) http://pypi.douban.com/simple/ 清华大学 ht 阅读全文
posted @ 2020-05-18 09:46 墨麟非攻 阅读(486) 评论(0) 推荐(0)
参数量与计算量
摘要：例：输入是m*m*c的图像，卷积核大小是k*k，其输出是n*n*d，也表示卷积核的数量是d，其总参数是多少，总的乘法计算量是多少？ 总参数：c*k*k*d 总乘法计算量：c*k*k*n*n*d 解释如下： 对于输出feature-map上某一个channel的点，经过如下两步得到： 1. 卷积核k* 阅读全文
posted @ 2019-05-25 15:28 墨麟非攻 阅读(1052) 评论(0) 推荐(0)
理解卷积神经网络中的channel
摘要：在一般的深度学习框架的 conv2d 中，如 tensorflow、mxnet，channel 都是必填的一个参数 在 tensorflow 中，对于输入样本中 channels 的含义，一般是RGB图片，channels的数量是3（R、G、B）。而灰度图是的channels是1； mxnet 中， 阅读全文
posted @ 2019-05-24 11:50 墨麟非攻 阅读(2544) 评论(0) 推荐(1)
激活函数的比较，sigmoid，tanh，relu
摘要：1. 什么是激活函数 如下图，在神经元中，输入inputs通过加权、求和后，还被作用了一个函数。这个函数就是激活函数Activation Function 2. 为什么要用激活函数 如果不用激活函数，每一层输出都是上层输入的线性函数，无论神经网路有多少层，输出都是输入的线性组合。与没有隐藏层效果相当 阅读全文
posted @ 2019-03-23 14:08 墨麟非攻 阅读(2332) 评论(0) 推荐(0)
阿里电话面试
摘要：1. 常用的归一化。各自的作用 机器学习-数据归一化及哪些算法需要归一化 2. KMeans的步骤以及其他的聚类算法 K-均值是因为它可以发现k个不同的簇，且每个簇的中心采用簇中所含值的均值计算 其他聚类算法：二分K-均值 讲解一下步骤，其实就是说明一下伪代码 二分K-均值：（基于SSE的划分） 该 阅读全文
posted @ 2019-03-21 17:37 墨麟非攻 阅读(229) 评论(0) 推荐(0)
如何防止过拟合
摘要：一、什么是过拟合？ 简单的说，就是对模型过度训练，把"训练数据学的太好了"。如下图所示： 通过上图可以看出，随着训练的进行，训练损失逐渐减小，而验证损失先降后升，此时便发生了过拟合。即模型的复杂度升高，但是泛化能力却降低。 降低过拟合的方法：数据集扩增（Data augmentation）、正则化（ 阅读全文
posted @ 2019-03-21 17:36 墨麟非攻 阅读(837) 评论(0) 推荐(0)
看图理解长短期记忆网络和门控循环网络
摘要：这是我在机器之心上看到的一篇文章，写的非常好。自己写一遍增强印象 参考地址：https://mp.weixin.qq.com/s/yWKdZLzPy5fcnmNLLcfKPA 循环神经网络（RNN）很容易受到短期记忆的影响。如果序列足够长，序列开头的信息随着传递逐渐减弱，直至消失，很容易被遗漏。 在 阅读全文
posted @ 2019-01-21 20:48 墨麟非攻 阅读(1466) 评论(0) 推荐(0)