2023年12月5日
【今日收获】Representation Collapse
摘要： 在深度学习中，对预训练模型进行 fine-tuning 可能会引发一种称为 "Representation Collapse" 的现象。Representation Collapse 指的是模型在 fine-tuning 过程中失去了原始预训练模型所具有的多样性和丰富性的特征表示，导致最终模型的表示 阅读全文
posted @ 2023-12-05 11:25 Zer0_Chambers 阅读(224) 评论(0) 推荐(0)