随笔分类 -  Theano

摘要:NaN 计算softmax loss时要用 "numeric robust 的计算方式" . softmax与 loss可能要分开计算. 得到前者的计算方式可以是常规方法. 但计算后者时要注意无穷大和NaN的出现. "NaN的出现" 一定是因为出现了无穷大. 无穷大的出现则是因为变量存储的数值超出了 阅读全文
posted @ 2017-01-08 20:26 宁静是一种习惯 阅读(1703) 评论(0) 推荐(0)
摘要:Reference https://groups.google.com/forum/ !msg/theano users/LRmXhTQtKAA/JmdyTzHiAwAJ 阅读全文
posted @ 2017-01-08 15:08 宁静是一种习惯 阅读(651) 评论(0) 推荐(0)
摘要:Transposed Convolution, 也叫Fractional Strided Convolution, 或者流行的(错误)称谓: 反卷积, Deconvolution. 定义请参考 "tutorial" . 此处也是对tutorial中的theano实现做一个总结, 得到一段可用的Dec 阅读全文
posted @ 2017-01-05 16:12 宁静是一种习惯 阅读(1028) 评论(0) 推荐(0)
摘要:文档是这么写的: border_mode: str, int or tuple of two int Either of the following: : apply filter wherever it completely overlaps with the input. Generates o 阅读全文
posted @ 2016-12-26 20:04 宁静是一种习惯 阅读(1646) 评论(0) 推荐(0)
摘要:常见的库如opencv, theano等的卷积操作方法( , )都有带有$2d$, 这个2d代表什么呢? 卷积操作的维度 进行conv操作时, 它的前进方向的维度就是conv操作的维度. 例如最常见的图片conv操作只沿长与宽两个方向进行, 所以是$2D$的conv. 若conv操作还沿channe 阅读全文
posted @ 2016-12-26 19:48 宁静是一种习惯 阅读(1306) 评论(0) 推荐(0)