caffe-TensorFlow-keras-theano - 随笔分类 - 未雨愁眸

TFRecord —— tensorflow 下的统一数据存储格式

摘要：tensorflow 提供了统一的数据存储格式，即 TFRecord（record 表示记录），以提高程序的可扩展性，当数据来源十分复杂时，仍能有效记录输入数据中的信息。1. tfrecord 使用流程比如对于 mnist 训练数据集，我们要将其 label 和像素内... 阅读全文

posted @ 2017-05-25 10:34 未雨愁眸阅读(185) 评论(0) 推荐(0)

TensorFlow 学习（十五）—— tensorflow.python.platform

摘要：tensorflow.python.platform 下的常用工具类和工具函数：tensorflow/tensorflow/python/platform at master · tensorflow/tensorflow · GitHub1. gfiletensor... 阅读全文

posted @ 2017-05-01 12:19 未雨愁眸阅读(1457) 评论(0) 推荐(0)

tensorflow：图（Graph）的核心数据结构与通用函数（Utility function）

摘要：Tensorflow一些常用基本概念与函数（2）1. 图（Graph）的核心数据结构tf.Graph.__init__：建立一个空图；tf.Graph.as_default()：一个将某图设置为默认图，并返回一个上下文管理器，常与 with 结构相搭配；g = tf.... 阅读全文

posted @ 2017-04-26 12:53 未雨愁眸阅读(545) 评论(0) 推荐(0)

TensorFlow 学习（十四）—— contrib

摘要：1. tensorflow.contrib.layerstf.contrib.layers.xavier_initializer()：一种经典的权值矩阵的初始化方式；阅读全文

posted @ 2017-03-26 12:42 未雨愁眸阅读(1550) 评论(0) 推荐(0)

TensorFlow 学习（十三）—— tf.app.flags

摘要：flags = tf.app.flagsFLAGS = flags.FLAGSflags.DEFINE_integer('num_hidden_layers', 3, 'number of hidden layers') 阅读全文

posted @ 2017-03-25 23:04 未雨愁眸阅读(163) 评论(0) 推荐(0)

tensorflow 的使用流程

摘要：1. optimizer.minimize 与 global_stepoptimizer = tf.train.**(learning_rate)global_step = tf.Variable(0, trainable=False, name='global_st... 阅读全文

posted @ 2017-03-25 23:02 未雨愁眸阅读(172) 评论(0) 推荐(0)

深度学习框架 —— tflearn 的学习

摘要：1. tflearn.data_utilsfrom tflearn.data_utils import to_categorical one_hot 编码；第一个参数为属性列，第二个参数接受类别个数；2. tflearn.layers.corefrom tflearn... 阅读全文

posted @ 2017-03-24 22:06 未雨愁眸阅读(1029) 评论(0) 推荐(0)

prettytensor 的使用

摘要：prettytensor 顾名思义，对原始的 tensorflow 下的 tensor 进行封装（prettytensor 以 tensorflow 为基础，二者搭配使用），使其成为一个更为接口友好的 tensor，这里的接口友好指的是更便于像搭积木一般地构建深层神经... 阅读全文

posted @ 2017-03-22 09:40 未雨愁眸阅读(416) 评论(0) 推荐(0)

TensorFlow 学习（十二）—— 高级函数

摘要：tf.map_fn(fn, elems)：接受一个函数对象，然后用该函数对象对集合（elems）中的每一个元素分别处理，def preprocessing_image(image, training): image = ... return imagede... 阅读全文

posted @ 2017-03-21 23:37 未雨愁眸阅读(224) 评论(0) 推荐(0)

TensorFlow 实战（五）—— 图像预处理

摘要：当然 tensorflow 并不是一种用于图像处理的框架，这里图像处理仅仅是一些简单的像素级操作，最终目的比如用于数据增强；tf.random_crop()tf.image.random_flip_left_right()：tf.image.random_hue() ... 阅读全文

posted @ 2017-03-21 23:21 未雨愁眸阅读(1092) 评论(0) 推荐(0)

tensorflow 的版本差异与变化

摘要：官方文档的说明，Transitioning to TensorFlow 1.01. 简单列举如下变量 tf.VARIABLES ⇒ tf.GLOBAL_VARIABLEStf.all_variables ⇒ tf.global_vairablestf.initiali... 阅读全文

posted @ 2017-03-20 21:53 未雨愁眸阅读(1124) 评论(0) 推荐(0)

tensorflow 函数接口的理解

摘要：1. tf.nn.softmaxtf.nn.softmax(logits, dim=-1, name=None) w*x+b ⇒ logitssoftmax 函数执行的操作：exp(logits)/reduce_sum(exp(logits), dim) ... 阅读全文

posted @ 2017-03-20 12:11 未雨愁眸阅读(176) 评论(0) 推荐(0)

TensorFlow 学习（十一）—— 正则（regularizer）

摘要：正则作用的对象是目标函数，如图对均方误差使用 ℓ2 正则：loss = tf.reduce_mean(tf.square(y-y_) + tf.contrib.layers.l2_regularizer(lambda)(w))1. 基本工作原理weights = tf... 阅读全文

posted @ 2017-03-19 16:38 未雨愁眸阅读(244) 评论(0) 推荐(0)

TensorFlow 需注意的细节问题

摘要：1. 数据类型不带小数点的数默认为 int32，带小数点的数默认为 float32；阅读全文

posted @ 2017-03-19 16:20 未雨愁眸阅读(127) 评论(0) 推荐(0)

TensorFlow 学习（十）—— 工具函数

摘要：1. 基本tf.clip_by_value() 截断，常和对数函数结合使用# 计算交叉熵crose_ent = -tf.reduce_mean(tf.log(y_*tf.clip_by_value(y, 1e-10, 1.)))a = tf.reshape(tf.ra... 阅读全文

posted @ 2017-03-19 16:04 未雨愁眸阅读(139) 评论(0) 推荐(0)

TensorFlow 学习（九）—— 初始化函数（概率分布函数 api、常数生成函数）

摘要：在 TensorFlow 中，一个变量的值在被使用之前，其初始化过程需要被明确地调用。1. 随机数生成函数tensorflow 下的概率分布函数，一般用于对变量进行初始化，这里的变量显然是指神经网络的参数（连接层之间的权值矩阵和偏执向量）。标准高斯：tf.rand... 阅读全文

posted @ 2017-03-19 15:34 未雨愁眸阅读(478) 评论(0) 推荐(0)

TensorFlow 下 mnist 数据集的操作及可视化

摘要：from tensorflow.examples.tutorials.mnist import input_data首先需要连网下载数据集：mnsit = input_data.read_data_sets(train_dir='./MNIST_DATA', one_... 阅读全文

posted @ 2017-03-16 15:13 未雨愁眸阅读(891) 评论(0) 推荐(0)

TensorFlow 学习（八）—— 梯度计算（gradient computation）

摘要：maxpooling 的 max 函数关于某变量的偏导也是分段的，关于它就是 1，不关于它就是 0；BP 是反向传播求关于参数的偏导，SGD 则是梯度更新，是优化算法；1. 一个实例 relu = tf.nn.relu(tf.matmul(x, W) + b)C =... 阅读全文

posted @ 2017-03-16 11:29 未雨愁眸阅读(1188) 评论(0) 推荐(0)

TensorFlow: couldn’t open CUDA library cupti64_80.dll、InternalError: Blas SGEMM launch failed

摘要：1. couldn’t open CUDA library cupti64_80.dll Win10 TensorFlow（gpu）安装详解在资源管理器中查询 cupti64_80.dll 的位置。如对于 windows 用户而言，如果将 nvidia 的显卡驱动安装... 阅读全文

posted @ 2017-03-15 22:36 未雨愁眸阅读(498) 评论(0) 推荐(0)

TensorFlow 学习（七） — 常用函数 api、tf.nn 库

摘要：0. 四则运算平方：tf.square()，开方：tf.sqrt()tf.add()、tf.sub()、tf.mul()、tf.div()、tf.mod()、tf.abs()、tf.neg()1. 简单数理统计 Rn→R（从矢量到标量），意味着一种约简（reduce... 阅读全文

posted @ 2017-03-15 17:13 未雨愁眸阅读(511) 评论(0) 推荐(0)

随笔分类 - caffe-TensorFlow-keras-theano