微信扫一扫打赏支持
摘要: TensorFlow2_200729系列 16、链式法则求多层感知器梯度实例 一、总结 一句话总结: A、y2对y1求导:w2:dy2_dy1 = tape.gradient(y2, [y1])[0] B、y1对w1求导:x:dy1_dw1 = tape.gradient(y1, [w1])[0] 阅读全文
posted @ 2020-08-04 15:04 范仁义 阅读(166) 评论(0) 推荐(0)
摘要: TensorFlow2_200729系列 15、交叉熵求梯度实例 一、总结 一句话总结: loss = tf.reduce_mean(tf.losses.categorical_crossentropy(tf.one_hot(y,depth=2), logits, from_logits=True) 阅读全文
posted @ 2020-08-04 14:13 范仁义 阅读(254) 评论(0) 推荐(0)
摘要: TensorFlow2_200729系列 14、MSE求梯度实例 一、总结 一句话总结: tf.losses.MSE:loss = tf.reduce_mean(tf.losses.MSE(y, logits)) 1、机器学习中的公式推导? 机器学习中,很多看似很复杂的公式的推导,就是非常普通的按照 阅读全文
posted @ 2020-08-04 09:44 范仁义 阅读(215) 评论(0) 推荐(0)
摘要: 神经网络激活函数softmax,sigmoid,tanh,relu总结 一、总结 一句话总结: 常见激活函数:softmax、sigmoid、tanh、relu 二、【神经网络】激活函数softmax,sigmoid,tanh,relu总结 转自或参考:【神经网络】激活函数softmax,sigmo 阅读全文
posted @ 2020-08-04 05:35 范仁义 阅读(1455) 评论(0) 推荐(0)
摘要: 数学公式库KaTeX小实例 一、总结 一句话总结: A、MathJax可以渲染公式,另一个库js库KaTeX有可以。 B、KaTeX是Khan Academy出品的一款快速、简单易用的JavaScript库,用来在Web上渲染TeX格式的数学公式。 1、在线的js和css显示正常,本地的js和css 阅读全文
posted @ 2020-08-04 05:07 范仁义 阅读(1210) 评论(0) 推荐(0)
摘要: 小白都能看懂的softmax详解 一、总结 一句话总结: softmax把一些输入映射为0-1之间的实数,并且归一化保证和为1,因此多分类的概率之和也刚好为1 二、小白都能看懂的softmax详解 转自或参考:小白都能看懂的softmax详解https://blog.csdn.net/bitcarm 阅读全文
posted @ 2020-08-04 04:15 范仁义 阅读(1547) 评论(0) 推荐(0)
摘要: TensorFlow2_200729系列 13、二阶梯度求解 一、总结 一句话总结: 梯度是放在with tf.GradientTape() as t1 语句之中,那二阶梯度就是这个语句的嵌套 import tensorflow as tf w = tf.Variable(1.0) b = tf.V 阅读全文
posted @ 2020-08-04 01:07 范仁义 阅读(270) 评论(0) 推荐(0)