摘要: MAE的网络结构如上图所示,它是一个非对称的Encoder-Decoder架构的模型,非对称性主要体现在两点: 1. Encoder和Decoder都是Transformer结构,但是Decoder在深度和宽度上都比Encoder小很多; 2. Encoder仅将未被掩码的部分作为输入,而Decod 阅读全文
posted @ 2022-09-27 11:27 Picassooo 阅读(927) 评论(0) 推荐(0)