随笔分类 - 矩阵分析
gemm() 与 gesvd() 到矩阵求逆(inverse)(根据 SVD 分解和矩阵乘法求矩阵的逆)
摘要:可逆方阵 A 的逆记为,A−1,需满足 AA−1=I。在 BLAS 的各种实现中,一般都不会直接给出 matrix inverse 的直接实现,其实矩阵(方阵)的逆是可以通过 gemm()和gesvd()操作得到。实值可逆方阵 A,其 SVD 分解如下:A⋅V=U⋅S...
阅读全文
酉矩阵(unitary matrix)
摘要:复方阵 U 称为酉矩阵,如果满足:U∗U=UU∗=I换句话说,矩阵 U 的共轭转置 U∗ 就是 U 的逆矩阵。U∗=U−11. unitary matrix 保持内积不变⟨Ux,Uy⟩=⟨x,y⟩
阅读全文
酉矩阵(unitary matrix)
摘要:复方阵 U 称为酉矩阵,如果满足:U∗U=UU∗=I换句话说,矩阵 U 的共轭转置 U∗ 就是 U 的逆矩阵。U∗=U−11. unitary matrix 保持内积不变⟨Ux,Uy⟩=⟨x,y⟩
阅读全文
Toeplitz matrix 与 Circulant matrix
摘要:之所以专门定义两个新的概念,在于它们特殊的形式,带来的特别的形式。1. Toeplitz matrix对角为常数;n×n 的矩阵 A 是 Toepliz 矩阵当且仅当,对于 Ai,j 有:Ai,j=Ai+1,j+1=ai−j⎡⎣⎢⎢⎢⎢⎢⎢afghibafghcbaf...
阅读全文
Toeplitz matrix 与 Circulant matrix
摘要:之所以专门定义两个新的概念,在于它们特殊的形式,带来的特别的形式。1. Toeplitz matrix对角为常数;n×n 的矩阵 A 是 Toepliz 矩阵当且仅当,对于 Ai,j 有:Ai,j=Ai+1,j+1=ai−j⎡⎣⎢⎢⎢⎢⎢⎢afghibafghcbaf...
阅读全文
常见矩阵求导
摘要:矩阵微分(matrix derivatives)1. 字典学习中的最小二乘法{Dopt,Wopt}=argminD,W∑ℓ=1L∥wℓ∥+γ∥X−DW∥2使用迭代求解的思路,优化上述问题,固定 W,上述问题就转换为单目标优化问题,此时可用最小二乘法的思路,给出 D 的...
阅读全文
稀疏编码(sparse code)与字典学习(dictionary learning)
摘要:Dictionary Learning Tools for Matlab.1. 简介字典 D∈RN×K(其中 K>N),共有 k 个原子,x∈RN×1 在字典 D 下的表示为 w,则获取较为稀疏的 w 的稀疏逼近问题如下表示:wopt=argminw∥w∥p+γ∥x−...
阅读全文
稀疏编码(sparse code)与字典学习(dictionary learning)
摘要:Dictionary Learning Tools for Matlab.1. 简介字典 D∈RN×K(其中 K>N),共有 k 个原子,x∈RN×1 在字典 D 下的表示为 w,则获取较为稀疏的 w 的稀疏逼近问题如下表示:wopt=argminw∥w∥p+γ∥x−...
阅读全文
四个基本子空间
摘要:假定 A∈Rm×n1. 零空间(null space)N(A)∈Rn={x|Ax=0}例,求 A=[132826416] 的零空间的一组基。A=[132826416]⇒U=A=[10222044],则 Ux=0,于是有,e1=[0−201]T,e2=[−2010]T所...
阅读全文
四个基本子空间
摘要:假定 A∈Rm×n1. 零空间(null space)N(A)∈Rn={x|Ax=0}例,求 A=[132826416] 的零空间的一组基。A=[132826416]⇒U=A=[10222044],则 Ux=0,于是有,e1=[0−201]T,e2=[−2010]T所...
阅读全文
矩阵分解(matrix factorization)
摘要:1. 基本概念 针对高维空间中的数据集,矩阵分解通过寻找到一组基及每一个数据点在该基向量下的表示,可对原始高维空间中的数据集进行压缩表示。令 X=[x1,⋯,xm]∈Rm×n 为数据矩阵,矩阵分解的数学含义即为,找到如下的两个矩阵(U∈Rm×k,A∈Rk×n),其矩...
阅读全文
矩阵分解(matrix factorization)
摘要:1. 基本概念 针对高维空间中的数据集,矩阵分解通过寻找到一组基及每一个数据点在该基向量下的表示,可对原始高维空间中的数据集进行压缩表示。令 X=[x1,⋯,xm]∈Rm×n 为数据矩阵,矩阵分解的数学含义即为,找到如下的两个矩阵(U∈Rm×k,A∈Rk×n),其矩...
阅读全文
从张量积(tensor product)到多重线性代数(multilinear algebra)
摘要:记张量积的数学记号为 ⊗。1. linear假设 V,W 为线性空间(vector spaces),f:V→W是线性(linear)的,如果满足:f(v1+v2)=f(v1)+f(v2)f(αv)=αf(v)f 表示的是两个线性空间的映射,从线性空间 V 到线性空间 ...
阅读全文
从张量积(tensor product)到多重线性代数(multilinear algebra)
摘要:记张量积的数学记号为 ⊗。1. linear假设 V,W 为线性空间(vector spaces),f:V→W是线性(linear)的,如果满足:f(v1+v2)=f(v1)+f(v2)f(αv)=αf(v)f 表示的是两个线性空间的映射,从线性空间 V 到线性空间 ...
阅读全文
行列式(determinant)的物理意义及性质
摘要:1. 物理(几何)意义detA=output areainput area首选,矩阵代表的是线性变换(linear transformation)。上式说明一个矩阵的行列式(detA)几何意义上,代表着,变换后的输出区域的面积与变换前的输入区域的面积之比。考虑一个二维...
阅读全文
行列式(determinant)的物理意义及性质
摘要:1. 物理(几何)意义detA=output areainput area首选,矩阵代表的是线性变换(linear transformation)。上式说明一个矩阵的行列式(detA)几何意义上,代表着,变换后的输出区域的面积与变换前的输入区域的面积之比。考虑一个二维...
阅读全文
浙公网安备 33010602011771号