08 2018 档案

深度学习（十）训练时的调参技巧
摘要：训练过程中需要适时的调整参数，以获得比较好的模型，下面介绍几种调参方式： 参数初始化 初始化参数对结果的影响至关重要，一定要做参数初始化，否则会出现收敛速度变慢，影响收敛结果，甚至造成nan的问题，下面介绍几种初始化方法 Xavier 初始化参数对结果的影响至关重要，一定要做参数初始化，否则会出现收 阅读全文
posted @ 2018-08-20 17:50 大球和二憨 阅读(892) 评论(0) 推荐(0)
深度学习（九）过拟合和欠拟合
摘要：过拟合和欠拟合是在网络训练中常常碰到的问题 过拟合（overfit）：训练误差小，但是对于测试集上的误差很大。可能模型过于复杂，训练中只”记住”了训练样本，然而其泛化误差却很高。 欠拟合（underfit）：训练误差很大，无法找到合适的函数描述数据集 下面介绍这两种情况下常用的一些trick方法 过 阅读全文
posted @ 2018-08-17 18:53 大球和二憨 阅读(1971) 评论(0) 推荐(0)
深度学习（二）常见概念
摘要：下面介绍深度学习算法中常用的一些概念。 （1）层（Layer） 神经网络是由多层组成的，层（Layer）就是接受加权输入、经过非线性激励函数变换、作为输出传递给下一层的容器。 一层通常只含一种激励函数，如池化、卷积等等。第一层和最后一层分别称为“输入层”和“输出层”，中间的都称作“隐藏层”。 （2） 阅读全文
posted @ 2018-08-16 17:33 大球和二憨 阅读(302) 评论(0) 推荐(0)
深度学习（一）什么是深度学习
摘要：了解深度学习前，我们先理解下平时经常在各大新闻通稿中常听到的“人工智能”。人工智能就是研究用计算机实现人类的智能， 如去模仿人类的知觉，推理，学习能力等。从而让计算机能够像人一样思考和行动，有图像识别(机器识别出猫猫狗狗)，人机对话(机器感知到 人类的语义和情感并给出反馈)，围棋的人机对弈(Alph 阅读全文
posted @ 2018-08-16 17:12 大球和二憨 阅读(419) 评论(0) 推荐(0)
Tensorflow 学习笔记（一）mac os 安装 tensorflow
摘要：Homebrew 安装python 安装pip ps: 安装完之后注意在PATH中指定pip的路径 安装tensorflow 安装中可能会出现timeout error，此时可以尝试： 或者 安装keras 验证安装是否正确 自此，tensorflow安装完毕，后面会逐渐用tensorflow写一些 阅读全文
posted @ 2018-08-15 18:42 大球和二憨 阅读(2043) 评论(0) 推荐(0)
深度学习（四）RNN & Word2Vec
摘要：RNN（Recurrent Netural Network）循环神经网络，用来处理和预测序列数据，在语音识别，语言描述，翻译等领域有很好的运用。 传统神经网络结构如CNN是假设所有的input之间是相互独立的，output之间也相互独立，但实际中会存在由前面几个字去推测后面的词，这个时候CNN的假设 阅读全文
posted @ 2018-08-07 18:26 大球和二憨 阅读(2282) 评论(0) 推荐(0)