摘要: keras-Dropout剪枝操作的应用 1.载入数据以及预处理 import numpy as np from keras.datasets import mnist from keras.utils import np_utils from keras.models import Sequent 阅读全文
posted @ 2020-06-07 22:58 wigginess 阅读(844) 评论(0) 推荐(0) 编辑
摘要: keras-交叉熵的介绍和应用 1.载入数据以及预处理 import numpy as np from keras.datasets import mnist from keras.utils import np_utils from keras.models import Sequential f 阅读全文
posted @ 2020-06-07 22:50 wigginess 阅读(586) 评论(0) 推荐(0) 编辑
摘要: keras-简单实现Mnist数据集分类 1.载入数据以及预处理 import numpy as np from keras.datasets import mnist from keras.utils import np_utils from keras.models import Sequent 阅读全文
posted @ 2020-06-07 22:42 wigginess 阅读(639) 评论(0) 推荐(0) 编辑
摘要: 构建基本网络实现非线性回归 1.加载显示数据集 import tensorflow as tf import numpy as np import keras from keras.layers import * from keras.models import Sequential import 阅读全文
posted @ 2020-06-07 22:38 wigginess 阅读(362) 评论(0) 推荐(0) 编辑
摘要: 构建基本简单网络实现线性回归 1.创建数据绘制散点图 import keras import numpy as np import matplotlib.pyplot as plt from keras.models import Sequential from keras.layers impor 阅读全文
posted @ 2020-06-07 22:33 wigginess 阅读(438) 评论(0) 推荐(0) 编辑
摘要: 一、super的作用 1.如果子类(Puple)继承父类(Person)不做初始化,那么会自动继承父类(Person)属性name。2.如果子类(Puple_Init)继承父类(Person)做了初始化,且不调用super初始化父类构造函数,那么子类(Puple_Init)不会自动继承父类的属性(n 阅读全文
posted @ 2020-06-05 14:49 wigginess 阅读(731) 评论(0) 推荐(1) 编辑
摘要: 2.4损失函数损失函数(loss):预测值(y)与已知答案(y_)的差距 nn优化目标:loss最小->-mse -自定义 -ce(cross entropy)均方误差mse:MSE(y_,y)=E^n~i=1(y-y_)^2/n loss_mse = tf.reduce_mean(tf.squar 阅读全文
posted @ 2020-06-05 11:56 wigginess 阅读(199) 评论(0) 推荐(0) 编辑
摘要: 2.3激活函数sigmoid函数 f(x)= 1/(1 + e^-x)tf.nn.sigmoid(x)特点:(1)求导后的数值在0-0.25之间,链式相乘之后容易使得值趋近于0,形成梯度消失 (2)输出非0均值。收敛慢 (3)幂运算复杂,训练时间长tanh函数 f(x)=(1-e^-2x)/(1+e 阅读全文
posted @ 2020-06-05 11:49 wigginess 阅读(168) 评论(0) 推荐(0) 编辑
摘要: 2.2复杂度和学习率 指数衰减学习率可以先用较大的学习率,快速得到较优解,然后逐步减少学习率,使得模型在训练后期稳定指数衰减学习率 = 初始学习率 * 学习率衰减率^(当前轮数/多少轮衰减一次) 空间复杂度: 层数 = 隐藏层的层数 + 1个输出层 (去掉输入层) 总参数 = 总w + 总b 0 0 阅读全文
posted @ 2020-06-05 11:45 wigginess 阅读(130) 评论(0) 推荐(0) 编辑
摘要: 2.1预备知识 # 条件判断tf.where(条件语句,真返回A,假返回B) import tensorflow as tf a = tf.constant([1,2,3,1,1]) b = tf.constant([0,1,2,4,5]) c = tf.where(tf.greater(a,b), 阅读全文
posted @ 2020-06-05 11:42 wigginess 阅读(157) 评论(0) 推荐(0) 编辑