摘要: 模型的秩(Rank)通常指的是模型中权重矩阵的秩,即矩阵中线性无关的行或列的最大数量。秩是线性代数中的一个重要概念,用于衡量矩阵的“信息量”或“复杂性”。在机器学习和深度学习中,秩的应用主要体现在以下几个方面: 1. 模型微调中的低秩适应(LoRA) 低秩适应(LoRA)是一种高效的模型微调方法,通 阅读全文
posted @ 2025-03-19 23:03 258333 阅读(53) 评论(0) 推荐(0)