随笔分类 -  统计/机器/深度学习

摘要:一些卷积概念和图解。 阅读全文
posted @ 2020-05-08 20:47 RyanXing 阅读(2132) 评论(0) 推荐(0)
摘要:让网络自主决定共享或独立的结构。 阅读全文
posted @ 2020-02-18 00:32 RyanXing 阅读(711) 评论(0) 推荐(0)
摘要:PyTorch官方论文。 阅读全文
posted @ 2019-12-05 20:35 RyanXing 阅读(1959) 评论(0) 推荐(0)
摘要:让RNN的每一个时间步具有不同的运算量。 阅读全文
posted @ 2019-12-03 14:52 RyanXing 阅读(1225) 评论(0) 推荐(0)
摘要:让一群小模型共同优化,达到比单独学习和蒸馏学习更好的效果。这是一种优化策略上的健壮性提升,类似于dropout在网络结构上的健壮性提升。 阅读全文
posted @ 2019-12-03 11:56 RyanXing 阅读(906) 评论(0) 推荐(0)
摘要:实现non-local的神经网络。与self-attention异曲同工。 阅读全文
posted @ 2019-12-02 17:26 RyanXing 阅读(839) 评论(0) 推荐(0)
摘要:堆叠残差注意力模块。 阅读全文
posted @ 2019-12-01 19:28 RyanXing 阅读(698) 评论(0) 推荐(0)
摘要:像LSTM一样,给深度网络加跳过门。 阅读全文
posted @ 2019-11-26 15:57 RyanXing 阅读(330) 评论(0) 推荐(0)
摘要:自主跳过ResNet的某一些block。 阅读全文
posted @ 2019-11-25 22:56 RyanXing 阅读(1460) 评论(0) 推荐(0)
摘要:MobileNet:调节通道数和通道尺寸,大量集成深度可分离卷积。 阅读全文
posted @ 2019-10-24 14:36 RyanXing 阅读(455) 评论(0) 推荐(0)
摘要:ResNet:学习残差,让深度网络逼近恒等变换。 阅读全文
posted @ 2019-10-23 19:16 RyanXing 阅读(459) 评论(0) 推荐(0)
摘要:通道注意力建模。轻量级,效果明显。2017年ILSVRC分类冠军。 阅读全文
posted @ 2019-10-23 15:42 RyanXing 阅读(428) 评论(0) 推荐(0)
摘要:Xception结构:进一步解耦通道互相关和空域互相关操作。 阅读全文
posted @ 2019-10-23 11:17 RyanXing 阅读(796) 评论(0) 推荐(0)
摘要:深度学习:反馈学习比单纯的前向学习更好,符合coarse-to-fine分类原理。 阅读全文
posted @ 2019-10-12 22:52 RyanXing 阅读(1107) 评论(0) 推荐(0)
摘要:深度学习网络(RDN):在block内和全局采用短连接和稠密连接的网络结构:Residual dense block & network。 阅读全文
posted @ 2019-10-02 14:37 RyanXing 阅读(1469) 评论(0) 推荐(0)
摘要:医学图像分割(UNet):引用量超过8k的、用于医学图像分割的网络结构。UNet短小精悍,靠的是稠密拼接、降采样升采样结构以放大感受野面积。 阅读全文
posted @ 2019-09-29 17:04 RyanXing 阅读(1947) 评论(0) 推荐(0)
摘要:图像分类(DenseNet):稠密连接(增大冗余,提高泛化能力),同时减小特征图数量(减小冗余)。 阅读全文
posted @ 2019-09-29 11:44 RyanXing 阅读(836) 评论(0) 推荐(0)
摘要:图像分类(MSDNet):对简单样本采取early-exit机制,可降低计算负担。 阅读全文
posted @ 2019-09-23 21:44 RyanXing 阅读(959) 评论(0) 推荐(0)
摘要:直接学习有噪图像之间的映射,无需干净或无损图像。因为有噪图像和无噪图像的期望在一定条件下相同。 阅读全文
posted @ 2019-09-23 09:18 RyanXing 阅读(2042) 评论(0) 推荐(0)
摘要:PyTorch官方教程学习笔记。 阅读全文
posted @ 2019-05-05 17:15 RyanXing 阅读(1101) 评论(0) 推荐(0)