07 2018 档案

摘要:1.tensorflow有一种kernels名为BinaryOp(二元操作),像加法、减法、哈达玛积这种都属于二元操作(都是简单的数学操作),所有的二元操作逻辑都是相同的,唯独中间的运算符不同,在实现上将这个操作符作为模板参数传入,本质也是调用的Eigen的API(但是像矩阵乘这样的感觉也是二元操作 阅读全文
posted @ 2018-07-11 18:01 灰太狼锅锅 阅读(619) 评论(0) 推荐(0)
摘要:1.Mul(哈达玛积:对应相乘) 设: 则根据偏导数的定义得: 同理可得: 2.MatMul(矩阵乘) 矩阵乘的偏导与元素的顺序是相关的. 设: 那么: 根据矩阵相容的原理: 可见矩阵的偏导数是另一个矩阵的转置,但是在用链式法则的时候需要保持和原来一直的顺序,意思是原来矩阵乘的元素在前面时,应用链式 阅读全文
posted @ 2018-07-06 15:38 灰太狼锅锅 阅读(1732) 评论(0) 推荐(0)