gongzb

摘要： 一、LoRA原理 转自：https://zhuanlan.zhihu.com/p/702629428 LoRA(Low-Rank Adaptation of LLMs)，即LLMs的低秩适应，是参数高效微调最常用的方法。 LoRA的本质就是用更少的训练参数来近似LLM全参数微调所得的增量参数，从而达 阅读全文

摘要： 贝叶斯公式的一般形式为：\(P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)}\) 在 GMM 中，我们需要计算 “给定观测数据 x，它来自第 k 个高斯成分” 的后验概率 \(P(z=k | x)\)，其对应关系如下： \(P(A)\)：先验概率 对应 GMM 中 “隐 阅读全文