摘要: tensorflow计算图 计算图是对有向图的表示,主要包含点和边;tensorflow使用计算图计算,计算图的点对应于ops,variables,constant,placeholder等,边对应于Tensors。因此tensorflow主要包含两个部分:构建计算图和runtime运行计算图。 为 阅读全文
posted @ 2020-02-21 15:33 hahahaf 阅读(448) 评论(0) 推荐(0) 编辑
摘要: 接着上篇tensorflow compute graph的理解,其中operation node 需要给运算定义forward 和backward函数。这篇中我们实现一个简单的fully_connected layer的forward 和backward 函数: class fullyconnect 阅读全文
posted @ 2020-02-21 15:31 hahahaf 阅读(886) 评论(0) 推荐(0) 编辑
摘要: 为了做模型压缩,常见方法将正常卷积换成seperable 卷积(正常卷积和可分离卷积具体见下图) ​​​ (1)正常卷积 (2)depthwise 卷积 (3)pointwise 卷积 正常卷积卷积的大小: kernel_size_w * kernel_size_h * input_channel 阅读全文
posted @ 2020-02-21 15:29 hahahaf 阅读(394) 评论(0) 推荐(0) 编辑