随笔分类 - Tensorflow
摘要:test.py: # -*- coding: UTF-8 -*- """ 测试神经网络模型 大家之后可以加上各种的 name_scope(命名空间) 用 TensorBoard 来可视化 一些术语的概念 # Batch size : 批次(样本)数目。一次迭代(Forword 运算(用于得到损失函数
阅读全文
摘要:train.py: # -*- coding: UTF-8 -*- """ 训练神经网络模型 大家之后可以加上各种的 name_scope(命名空间) 用 TensorBoard 来可视化 一些术语的概念 # Batch size : 批次(样本)数目。一次迭代(Forword 运算(用于得到损失函
阅读全文
摘要:network.py: # -*- coding: UTF-8 -*- """ 神经网络模型相关 RNN-LSTM 循环神经网络 大家之后可以加上各种的 name_scope(命名空间) 用 TensorBoard 来可视化 一些术语的概念 # Batch size : 批次(样本)数目。一次迭代(
阅读全文
摘要:utils.py: # -*- coding: UTF-8 -*- """ 实用方法 """ import os import sys import argparse import datetime import collections import numpy as np import tenso
阅读全文
摘要:深度学习三大模型 CNN卷积神经网络 RNN循环神经网络 DBN深度信念网络 灵感 CNN卷积神经网络:人脑视觉皮层对外界感知 RNN循环神经网络:人脑记忆机制 RNN循环神经网络优势 RNN每个输出与前面的输出建立关联 能够很好地处理序列化数据(音乐、文章等) 能以前面的是序列化对象为基础,来生成
阅读全文
摘要:代码: # -*- coding: UTF-8 -*- import numpy as np import tensorflow as tf # 下载并载入 MNIST 手写数字库(55000 * 28 * 28)55000 张训练图像 from tensorflow.examples.tutori
阅读全文
摘要:一些常见激活函数(维基百科) 代码: # -*- coding: UTF-8 -*- import numpy as np import matplotlib.pyplot as plt import tensorflow as tf # 创建输入数据 x = np.linspace(-7, 7,
阅读全文
摘要:Tensorflow一些常见操作: 代码: # -*- coding: UTF-8 -*- """ 用梯度下降的优化方法来快速解决线性回归问题 """ import numpy as np import matplotlib.pyplot as plt import tensorflow as tf
阅读全文
摘要:代码: # -*- coding: UTF-8 -*- # 引入 Matplotlib 的分模块 pyplot import matplotlib.pyplot as plt # 引入 numpy import numpy as np # 创建数据 x = np.linspace(-2, 2, 10
阅读全文
摘要:基本符号 代码: # -*- coding: UTF-8 -*- # 引入tensorflow import tensorflow as tf # 构造图(Graph)的结构 # 用一个线性方程的例子 y = W * x + b W = tf.Variable(2.0, dtype=tf.float
阅读全文
摘要:代码: # -*- coding: UTF-8 -*- # 引入 TensorFlow import tensorflow as tf # 创建两个常量 Tensor,两个[]才是矩阵 const1 = tf.constant([[2, 2]]) const2 = tf.constant([[4],
阅读全文
摘要:张量的维度(秩) tensor属性 tensor和numpy类似,具有类似的属性,例如: 数据类型dtpye 形状shape 几种tensor constant 值不能改变的一种tensor tf.constant( value, dtype=None, shape=None, name='Cons
阅读全文
摘要:基础结构 数据流图 基础模型 会话(启动图) 程序流程 定义算法的计算图结构 使用会话执行计算
阅读全文
摘要:编程模式 命令式编程(例如torch) 容易理解,命令语句基本没有优化,C、Java、C++、python a = 2 b = 3 c = a * b d = c + 1 print(d) 符号式编程(例如tensorflow) 涉及较多的嵌入和优化,运行速度有同比提升 import tensorf
阅读全文
摘要:拟和 欠拟合Underfitting 样本不够或者算法不精,测试样本特性没学到 拟合完美Fitting right 恰当的拟合数据,泛化能力强 过拟合Overfitting “一丝不苟”的拟合测试数据,泛化能力弱 回归问题中的三种拟合状态 分类问题中的三种拟合状态 解决过拟合方法 降低数据量 正则化
阅读全文
摘要:网络结构 输入层、隐含层(多层)、输出层 单个神经元结构,g(z)为激励函数,线性组合,非线性处理 逻辑回归 正向传播预测结果,反向传播调整w和b 激励函数 作用:提供规模化的非线性化能力 常用: 损失函数 单次训练损失: 全部训练损失: 梯度下降 逻辑回归梯度下降 同步更新 网络向量化 网络梯度下
阅读全文
摘要:机器学习基础认识 机器学习:利用计算机从历史数据中找出规律,并把这些规律用到对未来不确定场景的决策 概率论 数据统计 数据代替expert 离线机器学习 在线学习(电商,搜索) 机器学习典型应用 购物篮分析(啤酒+尿布)-- 关联规则 用户细分精准营销(手机卡分类)-- 聚类 垃圾邮箱 -- 朴素贝
阅读全文