随笔分类 - 4_深度学习(keras、tersorflow2、数据集、pytorch、深度学习花书等)
摘要:TensorFlow2_200729系列 2、梯度下降求简单线性回归原理 一、总结 一句话总结: 就是根据loss函数,对w和b求梯度(偏导),也就是w'=w-lr*∂ loss/∂ w ,b'=b-lr*∂ loss/∂ b 1、为什么求梯度是对loss函数求的梯度(w'=w-lr*∂ loss/
阅读全文
摘要:TensorFlow2_200729系列 1、TensorFlow2自动求导实例 一、总结 一句话总结: 用tf.GradientTape():[dy_da,dy_db,dy_dc] = tape.gradient(y, [a,b,c]) import tensorflow as tf # 创建4个
阅读全文
摘要:Tensorflow函数式API的使用 一、总结 一句话总结: I、在我们使用tensorflow时,如果不能使用函数式api进行编程,那么一些复杂的神经网络结构就不会实现出来,只能使用简单的单向模型进行一层一层地堆叠。 II、如果稍微复杂一点,遇到了Resnet这种带有残差模块的神经网络,那么用简
阅读全文
摘要:tensorflow2知识总结 8、函数式API 一、总结 一句话总结: tensorflow2函数式API是可以非常方便的构建出复杂的神经网络,比如多输入多输出类型的 input=keras.Input(shape=(28,28)) x=keras.layers.Flatten()(input)
阅读全文
摘要:tensorflow2知识总结 7、dropout抑制过拟合实例 一、总结 一句话总结: 操作非常简单,直接增加dropout层即可:model.add(tf.keras.layers.Dropout(0.5)) # 增加dropout层来抑制过拟合 model = tf.keras.Sequent
阅读全文
摘要:tensorflow2知识总结 6、过拟合实例 一、总结 一句话总结: A、训练集上的loss一直降低 ,测试集上的loss却有较大波折,证明过拟合 B、训练的时候验证测试数据:history = model.fit(train_image,train_label,epochs=10,validat
阅读全文
摘要:tensorflow2知识总结(杂) 4、训练模型的步骤 一、总结 一句话总结: 1、首先开发一个过拟合的模型(更多层,更多神经元,训练更多轮) 2、然后,抑制过拟合(dropout、正则化、图像增强) 3、再次,调节超参数(学习速率、隐藏层单元数、训练轮次) 1、过拟合 和 欠拟合 ? 过拟合:在
阅读全文
摘要:tensorflow2知识总结(杂) 3、如何提高网络的拟合能力 一、总结 一句话总结: 1、增加层(增加层的效果比增加隐藏神经元的效果好) 2、增加隐藏神经元个数 1、什么是网络容量 及相关? a、网络容量可以认为与网络中的可训练参数成正比 b、网络中的神经单元数越多,层数越多,神经网络的拟合能力
阅读全文
摘要:tensorflow2知识总结(杂) 2、Adam优化器 一、总结 一句话总结: 1、Adam算法可以看做是修正后的Momentum+RMSProp算法. 2、Adam通常被认为对超参数的选择相当鲁棒 3、学习率建议为0.001 1、反向传播算法? 每一层的导数都是后一层的导数与前一层输出之积,这正
阅读全文
摘要:tensorflow2知识总结 5、softmax多分类 一、总结 一句话总结: softmax多分类适用于神经网络输出层是一个多分类的输出的情况 1、tensorflow的输出层注意? 如果输出层是一个连续的数字,就不进行其它操作,直接输出 如果输出层是一个二分类(是和否),可以对输出层做一个si
阅读全文
摘要:tensorflow2知识总结 4、逻辑回归实例 一、总结 一句话总结: 也就是将损失函数设置为binary_crossentropy即可:model.compile(optimizer='adam',loss='binary_crossentropy',metrics=['acc']) 1、把te
阅读全文
摘要:tensorflow2知识总结 3、逻辑回归与交叉熵 一、总结 一句话总结: 1、逻辑回归:线性回归预测的是一个连续值,逻辑回归给出的“是”和“否”的回答 2、交叉熵:交叉熵刻画的是实际输出(概率)与期望输出(概率)的距离,也就是交叉熵的值越小,两个概率分布就越接近。 1、sigmoid函数 和 概
阅读全文
摘要:tensorflow2知识总结 2、多层感知器实例 一、总结 一句话总结: 1、多层感知器也就是创建的模型是多层的模型而已,其实基本架构(创建模型、训练模型、模型预测)也都是一样的 2、隐藏层:tf.keras.layers.Dense(10,input_shape=(3,),activation=
阅读全文
摘要:tensorflow2知识总结 1、线性回归实例 一、总结 一句话总结: 第一步:创建模型:model = tf.keras.Sequential() 后面用model的add方法添加layers就好 第二步:训练模型:history = model.fit(x,y,epochs=5000) 第三步
阅读全文
摘要:tensorflow2知识总结(杂) 1、安装tensorflow 一、总结 一句话总结: pip install tensorflow-cpu==2.2.0 -i https://pypi.douban.com/simple/ 1、升级 pip? python -m pip install --u
阅读全文

浙公网安备 33010602011771号