12 2018 档案

激活函数必要的属性
摘要："github博客传送门" "csdn博客传送门" 神经网络中激活函数的真正意义?一个激活函数需要具有哪些必要的属性?还有哪些属性是好的属性但不必要的? 1. 非线性： 即导数不是常数。这个条件是多层神经网络的基础，保证多层网络不退化成单层线性网络。这也是激活函数的意义所在。 2. 几乎处处可微： 阅读全文
posted @ 2018-12-26 19:30 账号 阅读(1581) 评论(0) 推荐(0)
什么样的数据集不适合用深度学习?
摘要："github博客传送门" "csdn博客传送门" 什么样的数据集不适合用深度学习？ 1. 数据集太小,数据样本不足时,深度学习相对其它机器学习算法,没有明显优势。 2. 数据集没有局部相关特性,目前深度学习表现比较好的领域主要是图像／语音／自然语言处理等领域,这些领域的一个共性是局部相关性。图像中 阅读全文
posted @ 2018-12-26 19:23 账号 阅读(1694) 评论(0) 推荐(0)
迁移学习的使用注意事项
摘要："github博客传送门" "csdn博客传送门" 什么是fine tuning? 在实践中，由于数据集不够大，很少有人从头开始训练网络。常见的做法是使用预训练的网络（例如在ImageNet上训练的分类1000类的网络）来重新fine tuning（也叫微调），或者当做特征提取器。 以下是常见的两类 阅读全文
posted @ 2018-12-26 19:19 账号 阅读(1420) 评论(0) 推荐(1)
如何确定梯度爆炸和解决梯度爆炸
摘要："github博客传送门" "csdn博客传送门" 如何确定是否出现梯度爆炸？ 训练过程中出现梯度爆炸会伴随一些 细微的信号 ，如： 1. 模型无法从训练数据中获得更新（如低损失）。 2. 模型不稳定，导致更新过程中的损失出现显著变化。 3. 训练过程中，模型损失变成 NaN。 如果你发现这些问题， 阅读全文
posted @ 2018-12-23 14:56 账号 阅读(1965) 评论(0) 推荐(0)
神经网络的调参效果不理想时->(解决思路)
摘要："github博客传送门" "csdn博客传送门" 非过拟合情况 1. 是否找到合适的损失函数？(不同问题适合不同的损失函数)(理解不同损失函数的适用场景) (解决思路)选择合适的损失函数（choosing proper loss ） 神经网络的损失函数是非凸的，有多个局部最低点，目标是找到一个可用 阅读全文
posted @ 2018-12-23 14:29 账号 阅读(5684) 评论(0) 推荐(2)
OpenCV调用摄像头 , 人脸检测demo
摘要："github博客传送门" "csdn博客传送门" 环境: 安装OpenCV: conda install opencv 或 pip install opencv 安装PIL: conda install pillow pip install pillow 效果: 所需文件: 下载链接: "所需文件 阅读全文
posted @ 2018-12-22 12:25 账号 阅读(501) 评论(0) 推荐(0)
深度学习(偏差/方差 - 欠拟合/适度拟合/过拟合)网络分析技巧
摘要："github博客传送门" "csdn博客传送门" 我们称左边的为图一,中间的为图二,右边的为图三 从图上我们可以看到有两个数据分布 , 我们需要将他们进行分类开. 图一: 处于欠拟合(训练时间不够或者网络结构较小的时候产生的) 我们也称之为高偏差 . 检测方法: 计算出训练集的误差和理想误差的差距 阅读全文
posted @ 2018-12-22 11:55 账号 阅读(498) 评论(0) 推荐(0)
深度学习(训练/开发/测试集)的划分技巧
摘要："github博客传送门" "csdn博客传送门" 小数据量时代(100 1000 10000条左右或更多): 一. 70%训练集 , 30%测试集 二. 60%训练集 , 20%交叉验证集 , 20%测试集 大数据量时代(1000000条左右): 一. 98%训练集 , 1%交叉验证集 , 1%测 阅读全文
posted @ 2018-12-22 11:24 账号 阅读(1278) 评论(0) 推荐(0)
选择排序(c++实现)
摘要："github博客传送门" "csdn博客传送门" 选择排序原理: c include using namespace std; const int MAX_NUM = 100; //选择排序 int main(){ int a[MAX_NUM]; int n; cin n; //共有n个整数待排序 阅读全文
posted @ 2018-12-16 18:09 账号 阅读(2630) 评论(0) 推荐(0)
插入排序(c++实现)
摘要："github博客传送门" "csdn博客传送门" 插入排序原理: c include using namespace std; //插入排序 void InsertionSort(int a[], int size) { int i; //有序区间的最后一个元素的位置,i+1就是无序区间最左边元素 阅读全文
posted @ 2018-12-16 18:01 账号 阅读(3117) 评论(1) 推荐(1)
DenseNet(Pytorch实现)
摘要："github博客传送门" "csdn博客传送门" 论文在此: Densely Connected Convolutional Networks 论文下载: "https://arxiv.org/pdf/1608.06993.pdf" 网络结构图: Pytorch代码实现: 阅读全文
posted @ 2018-12-16 17:48 账号 阅读(4705) 评论(0) 推荐(0)
SqueezeNet(Pytroch实现)
摘要："github博客传送门" "csdn博客传送门" 论文在此: SQUEEZENET: ALEXNET LEVEL ACCURACY WIT 50X FEWER PARAMETERS AND 阅读全文
posted @ 2018-12-16 17:35 账号 阅读(929) 评论(0) 推荐(0)
ResNet(Pytroch实现)
摘要："github博客传送门" "csdn博客传送门" 论文在此: Deep Residual Learning for Image Recognition 论文下载: "https://arxiv.org/pdf/1512.03385.pdf" 网络结构图: Pytorch代码实现: 阅读全文
posted @ 2018-12-16 17:17 账号 阅读(982) 评论(0) 推荐(0)
Inception(Pytorch实现)
摘要："github博客传送门" "csdn博客传送门" 论文在此: Going deeper with convolutions 论文下载: "https://arxiv.org/pdf/1409.4842.pdf" 网络结构图: Pytorch代码实现: 阅读全文
posted @ 2018-12-16 17:04 账号 阅读(4073) 评论(3) 推荐(0)
VGG系列(Pytorch实现)
摘要："github博客传送门" "csdn博客传送门" 论文在此:VERY DEEP CONVOLUTIONA NETWORK FO LARGE SCAL IMAG RECOGNITION 下载地址: "https://arxiv.org/pdf/1409.1556.pdf" 网络结构图: Pytorc 阅读全文
posted @ 2018-12-16 16:45 账号 阅读(5186) 评论(0) 推荐(0)
AlexNet(Pytorch实现)
摘要："github博客传送门" "csdn博客传送门" 论文在此 : ImageNet Classification with Deep Convolutional Neural Networks 网络结构图 : Pytorch代码实现 : 阅读全文
posted @ 2018-12-16 16:27 账号 阅读(791) 评论(0) 推荐(0)