上一页 1 2 3 4 5 6 7 ··· 32 下一页
摘要: 模型:cpmbee lightweight fine-tuning:冻结模型的大部分参数,只训练一小部分(可以插入一个任务层,训练任务层的参数) 阅读全文
posted @ 2023-02-10 16:43 Jary霸 阅读(26) 评论(0) 推荐(0)
摘要: 0、beit vision Transform 用 dvae 做图像的编码和解码 dvae: 1、beit2 linear probe : 通过将最后一层替换成线性层,并只训练该线性层 vqkd: 如果仅仅 evaluate,则算完 cluster_size 之后,上面的(更新codebook)就不 阅读全文
posted @ 2023-02-09 13:14 Jary霸 阅读(420) 评论(0) 推荐(0)
摘要: Transformer生成的各个词向量具有各项异性问题(anisotropic,representation degeneration problem),即词向量都聚集在一个狭小的锥形空间,任何两个词都具备相似度,这个可以通过对词向量矩阵做低秩近似到2维平面可以看出来(即将向量映射到二维),此处的低 阅读全文
posted @ 2023-02-03 18:11 Jary霸 阅读(341) 评论(0) 推荐(0)
摘要: 1、AGPC 针对一篇博客,可以根据用户画像个性化输出用户的评论 数据集格式:1个博客,该博客下的所有评论,评论由评论内容和评论者的信息组成 e(x1)...e(xn):博客的分词+id映射+embeding e(d1)...e(dn):用户个人介绍(比如个性签名)的分词+id映射+embeding 阅读全文
posted @ 2023-01-03 17:16 Jary霸 阅读(67) 评论(0) 推荐(0)
摘要: 【JS散度】 由于KL散度的不对称性问题使得在训练过程中可能存在一些问题,在KL散度基础上引入了JS散度,JS散度是对称的,其取值是 0 到 1 之间。如果两个分布 P,Q 离得很远,完全没有重叠的时候,那么JS散度值是一个常数( log2),此时梯度消失(为0)。JS散度越小,2个分布越相似 JS 阅读全文
posted @ 2022-11-27 01:15 Jary霸 阅读(374) 评论(0) 推荐(0)
摘要: 图像分割(语义分割是像素分类,实例分割还要分类后区分不同个体) 【unet】 本质是像素点的多分类,深度不深,用于检测小物体,如细胞,下图灰色箭头表示 跳跃连接 skip-connection,通过 concatenate 特征融合,卷积结构统一为 3x3 的卷积核,padding 为 0 ,str 阅读全文
posted @ 2022-10-14 20:16 Jary霸 阅读(239) 评论(0) 推荐(0)
摘要: 一阶段模型(yolo系列) 【yolo1】 1、图像归一化为448x448x3,先通过Googlenet: inception(也称GoogLeNet)是2014年提出的,由多个下图的 inception模块串联,感觉是spp的前身,1*1卷积可以视为对单个像素的全连接运算,提升了非线性能力,多个分 阅读全文
posted @ 2022-10-12 23:49 Jary霸 阅读(296) 评论(0) 推荐(0)
摘要: 1、如果需要考虑之前的状态就可以使用有限状态机 有限状态机: Leecode 第8题: class A: def __init__(self): self.sign=1 self.ans=0 self.currentState="empty" self.dict={ "empty":["empty" 阅读全文
posted @ 2022-09-28 22:45 Jary霸 阅读(294) 评论(0) 推荐(0)
摘要: 行为识别 【slowfast】 阅读全文
posted @ 2022-09-26 21:50 Jary霸 阅读(120) 评论(0) 推荐(0)
摘要: 行人重识别ReID:给一个人,去一堆图片里面找哪个出现了这个人,适用于框架相似的细粒度识别 【Learning Relation...2020CVPR】 0、数据处理 图片原来的命名方式:人编号_c摄影机编号_图片编号 训练:数据集是bounding_box_train下的所有图片,其中有遮挡的图片 阅读全文
posted @ 2022-09-15 00:36 Jary霸 阅读(272) 评论(0) 推荐(0)
上一页 1 2 3 4 5 6 7 ··· 32 下一页