随笔分类 - 深度学习
摘要：转载自：https://zhuanlan.zhihu.com/p/148034113 一：参数初始化类别 参数初始化分为：固定值初始化、预训练初始化和随机初始化。 固定初始化： 是指将模型参数初始化为一个固定的常数，这意味着所有单元具有相同的初始化状态，所有的神经元都具有相同的输出和更新梯度，并进行
阅读全文
摘要：注意：所有文章结合读，不要只读一篇文章！！！！ 一：张量的学习 （一）基础数据结构--张量 https://blog.csdn.net/oldmao_2001/article/details/102534415 https://blog.csdn.net/oldmao_2001/article/de
阅读全文
摘要：补充：TFRECORD文件学习 https://blog.csdn.net/briblue/article/details/80789608 import tensorflow as tf import os import random import sys #生成的tfrecord文件数量 _NU
阅读全文
摘要：一：总括文件读取方式 1.供给数据(Feeding)： 由占位符placeholder代替数据，运行时使用feed_dict填入数据 2.预加载数据： 数据直接嵌入graph，由graph传入session中运行 3.从文件读取数据： 在TensorFlow图的起始， 让一个输入管线从文件中读取数据
阅读全文
摘要：一：常见激活函数Sigmoid、Relu、Tanh、Softmax （一）sigmoid:https://www.jianshu.com/p/506595ec4b58 可以作为激活函数 1) 值域在0和1之间 2) 函数具有非常好的对称性 3) 函数对输入超过一定范围就会不敏感 （二）tanh:ht
阅读全文
摘要：一：argmax中axis问题 https://blog.csdn.net/qq575379110/article/details/70538051/ 总之：axis=0/1不是行/列关系 test = np.array([[1, 2, 3], [2, 3, 4], [5, 4, 3], [8, 7
阅读全文
摘要：之前深度学习中一般只在卷积中涉及到padding: tf.nn.conv2d(x,W,strides=[1,1,1,1],padding="SAME") 现在在Tensorflow学习过程中，发现在池化过程中，大量应用到SAME填充： tf.nn.max_pool(x,[1,2,2,1],strid
阅读全文
摘要：前面学过数字识别（单任务），这里基于CNN来实现验证码（多任务的识别） 全部代码见：github(Tensorflow/10多任务学习） 注：本文使用在线生成验证码进行训练，如果需要离线使用TFRECORD方法，见github(Tensorflow/10多任务学习） 一：验证码图片生成 from c
阅读全文
摘要：一：机器学习中的常见优化算法回顾 机器学习基础 大规模机器学习 随机梯度下降法Mini-Batch梯度下降随机梯度下降收敛 二：吴恩达深度学习笔记 http://www.ai-start.com/dl2017/html/lesson2-week2.html 2.1 Mini-batch 梯度下降（M
阅读全文
摘要：一：参考nouveau禁用 https://www.pianshen.com/article/527837750/，https://www.cnblogs.com/fanminhao/p/8902296.html，https://blog.csdn.net/u012442845/article/de
阅读全文
浙公网安备 33010602011771号