随笔分类 -  CV---视觉相关

摘要:目前正负样本的构造和选择大部分还是采用数据增强,依赖于人的经验和直觉,可能并不是有效的,也缺少可解释性。 本文在特征层面进行data manipulation来提供更加explainable和effective的正负样本。 首先,观察训练过程中anchor/positive以及anchor/nega 阅读全文
posted @ 2021-08-26 11:17 wyboooo 阅读(532) 评论(0) 推荐(0)
摘要:现在的大部分方法都通过调整网络结构,使网络具有获得更丰富表示特征的能力,如attention、AutoML、NAS。 本文提出的自校准卷积(Self-Calibrated conv),通过增强每一层卷积的能力,提升整个网络的能力。SC conv将原卷积分为多个不同的部分,由于这种异质的卷积操作和核之 阅读全文
posted @ 2021-02-23 22:14 wyboooo 阅读(596) 评论(0) 推荐(0)
摘要:arxiv上23号新放出的何凯明大神的新作。针对Siamese Network中的collapsing问题进行了分析,并指出,目前避免这个问题的一些方法:负样本,大batch,momentum encoder其实都是不必要的。在避免collapsing问题中,stop-gradient操作非常重要, 阅读全文
posted @ 2020-11-27 17:33 wyboooo 阅读(2138) 评论(0) 推荐(1)
摘要:dynamic inference指的是根据输入调整预测的过程,通过对简单样本减少计算开销来减少总的开销。这篇文中就是dynamic inference方面的一个工作。将静态CNN模型转换为支持dynamic inference的模型后,通过NAS进行搜索,这种方法可以generalize到大部分的 阅读全文
posted @ 2020-08-30 15:08 wyboooo 阅读(547) 评论(0) 推荐(0)
摘要:作者的前两篇文章分别探讨了如何训练一个可以slim到指定宽的的网络以及如何训练一个可以选取任意子宽度的网络。在这篇文章中,作者试图解决的问题是对于给定的配置,选取各层最优的网络宽度。 目前对于网络宽度的选择主要依靠经验,如"half size, double channel"rule, pyrami 阅读全文
posted @ 2020-08-28 14:34 wyboooo 阅读(1251) 评论(0) 推荐(0)
摘要:作者在Slimmable Neural Networks这篇文章中研究了训练宽度可实时变化的网络的方法,但那篇文章中的宽度是训练时指定好的固定的宽度。在这篇文章中作者提出一种训练universally slimmable networks(USNet)的方法,运行时可以选择某个范围中的任意宽度,并且 阅读全文
posted @ 2020-08-26 10:54 wyboooo 阅读(625) 评论(0) 推荐(0)
摘要:项目地址:https://github.com/JiahuiYu/slimmable_networks 不同的移动设备具有不同的存储资源和计算能力,同一个算法在不同设备中所需的时间是不同的。即使是同一个设备,也会由于运行的程序、电量等原因,造成分配给模型的资源有所不同。在移动设备上,我们通常对于算法 阅读全文
posted @ 2020-08-01 12:29 wyboooo 阅读(474) 评论(0) 推荐(0)