2018年12月23日
摘要: 本文主要介绍神经常微分方程背后的细想与直观理解,很多延伸的概念并没有详细解释,例如大大降低计算复杂度的连续型流模型和官方 PyTorch 代码实现等。这一篇文章重点对比了神经常微分方程(ODEnet)与残差网络,我们不仅能通过这一部分了解如何从熟悉的 ResNet 演化到 ODEnet,同时还能还有 阅读全文
posted @ 2018-12-23 20:49 雨世雪逝 阅读(6451) 评论(0) 推荐(0)
摘要: 深层次网络训练瓶颈:梯度消失,网络退化 深度卷积网络自然的整合了低中高不同层次的特征,特征的层次可以靠加深网络的层次来丰富。从而,在构建卷积网络时,网络的深度越高,可抽取的特征层次就越丰富。所以一般我们会倾向于使用更深层次的网络结构,以便取得更高层次的特征。但是在使用深层次的网络结构时我们会遇到两个 阅读全文
posted @ 2018-12-23 20:29 雨世雪逝 阅读(1314) 评论(0) 推荐(0)