Stanlei

摘要： 0 微调概述 大模型参数高效微调技术原理综述 两个目标 微调：从过去到现在 微调：单模态和多模态有没有区别 0.1 高效参数微调 以BERT模型为代表，预训练语言模型+下游任务上进行全量微调，但以GPT3为代表的预训练语言模型（PLM）参数规模变得越来越大，这使得在消费级硬件上进行全量微调变得不可行 阅读全文