随笔分类 - 大模型
摘要:SVD(奇异值分解)的核心思想是:任意一个 m×n 矩阵都能分解成 UΣVᵀ 三个矩阵的乘积,相当于把复杂的线性变换拆成“旋转 → 拉伸 → 旋转”三个标准动作。 这一性质让它成为理解 LoRA 低秩微调的数学基石。 📐 数学定义 对任意实矩阵 Am×nAm×n,SVD 分解为: A=U
阅读全文
摘要:1.内积和范数 2.向量正交 3.正交向量组必定线性无关 4.规范正交基 5.施密特正交化 6.正交矩阵
阅读全文
摘要:1.向量定义 个有次序的数a, 2,..., a,所组成的数组称为维向量,这2 个数称为该向量的个分量,第个数a称为第个分量. 分量全为实数的向量称为实向量,分量为复数的向量称为复向量.本书中除 特别指明者外,一般只讨论实向量. 2.向量的线性表示 2.向量的线性相关 定理4 向量组a1, ....
阅读全文
摘要:1.定义 1.同型矩阵 两个矩阵的行数相等、列数也相等时,就称它们是同型矩阵. 如果A = (a) 与B = (b)是同型矩阵,并且它们的对应元素相等,即 aj = b (i =1,2,, m;j =1,2,,n), 那么就称矩阵A与矩阵相等,记作 A= B. 2.单位矩阵 叫做恒等变换,它对应的一
阅读全文
摘要:http://www.dxsx.net/admin/editor/upload/201409/20140916220047145.pdf 1.二阶行列式 性质1 :行列式和行列式的转置相等,D=DT 性质2:互换行列式的两行(列),行列式变号 如果行列式两行或者两列相同,行列式为0,互换这两行(列)
阅读全文

浙公网安备 33010602011771号