tensorflow深度神经网络 - 随笔分类 - 未雨愁眸

摘要：tensorflow 官方给出的实现：models/inception_v3.py at master · tensorflow/models · GitHub1. 模型结构首先来看 Inception V3 的模型架构图：共 46 层，由 11 个 Incept... 阅读全文

posted @ 2017-05-19 19:14 未雨愁眸阅读(199) 评论(0) 推荐(0)

摘要：在采用随机梯度下降算法训练神经网络时，使用 tf.train.ExponentialMovingAverage 滑动平均操作的意义在于提高模型在测试数据上的健壮性（robustness）。tensorflow 下的 tf.train.ExponentialMovin... 阅读全文

posted @ 2017-04-26 15:22 未雨愁眸阅读(252) 评论(0) 推荐(0)

摘要：tensorflow 在实现 Batch Normalization（各个网络层输出的归一化）时，主要用到以下两个 api：tf.nn.moments(x, axes, name=None, keep_dims=False) ⇒ mean, variance：统计矩... 阅读全文

posted @ 2017-04-26 11:41 未雨愁眸阅读(169) 评论(0) 推荐(0)

摘要：在 caffe mnist tutorial 的实现中，有如下的语句：weight_filter = {type: "xavier"};随后的解释中指出，本实现将使用 xavier 算法通过输入和输出神经元的数目自动确定权值矩阵的初始化大小。通过本文第三部分的推导，使... 阅读全文

posted @ 2017-04-21 15:34 未雨愁眸阅读(663) 评论(0) 推荐(0)

摘要：完整代码请见 models/DenoisingAutoencoder.py at master · tensorflow/models · GitHub；1. Denoising Autoencoder 类设计与构造函数简单起见，这里仅考虑一种单隐层的去噪自编码器结构... 阅读全文

posted @ 2017-03-26 19:19 未雨愁眸阅读(283) 评论(0) 推荐(0)

随笔分类 - tensorflow深度神经网络