秩(Rank)
矩阵的秩
任一矩阵可以经过初等行变换化成行阶梯形矩阵,这个行阶梯形矩阵所含非零行的行数实际上就是矩阵的秩,它是矩阵的一个数字特征,对研究矩阵的性质有着重要的作用。
如果矩阵 A 中有一个 r 阶子式 Dr 不等于零,而所有 r+1 阶子式(如果存在的话)全等于零,则称数 r 是矩阵 A 的秩,记作 R(A) ,规定零矩阵的秩为零。
显然,对于 m×n 矩阵 A ,有:
- R(Am×n)≤min{m,n}
- R(AT)=R(A)
为什么行阶梯形矩阵所含非零行的行数就是矩阵的秩?这就要涉及到矩阵的秩的另外一个性质:
- 设矩阵 A 经过有限次初等变换化为矩阵 B ,则 R(A)=R(B) 。
上面这个定理也可以理解为等价矩阵具有相同的秩:设 A 为 m×n 矩阵, P 是 m 阶可逆矩阵, Q 是 n 阶可逆矩阵,则 R(A)=R(PA)=R(AQ)=R(PAQ)
两个重要结论(在后文证明):
- R(AB)≤min{R(A),R(B)}
- R(A+B)≤R(A)+R(B)
当矩阵的秩和行数相等时,称作行满秩矩阵;当矩阵的秩和列数相等时,称作列满秩矩阵。
当矩阵 A 为 n 阶方阵时,若 R(A)=n ,则称 A 为满秩矩阵;若 R(A)<n ,则称 A 为降秩矩阵。
矩阵可逆的充要条件是 ∣A∣=0 ,因此满秩矩阵可逆,降秩矩阵不可逆。
关于行、列满秩矩阵,有以下定理:
- 对行满秩矩阵 Am×n ,必有列满秩矩阵 Bn×m ,使得 AB=I 。
证明:
当 m=n 时,由满秩矩阵可逆,定理显然成立。
当 m<n 时,由 R(A)=m ,可知 A 中存在 m 个列,使它们构成的 m 阶子式 ∣A1∣=0 ,不管它们处于矩阵的什么位置,都可以通过换法变换将它们移到矩阵的前 m 列,即有 n 阶可逆矩阵 P ,使得
AP=[A1,A2]
其中 A1 可逆,令
B=[A1−1O]
又因为 R(B)=R(A1−1)=m ,于是 B 为 n×m 列满秩矩阵,且有
AB=[A1,A2][A1−1O]=I
矩阵乘积的秩的性质:
- 设矩阵 Am×n,Bn×p ,则 R(AB)≥R(A)+R(B)−n 。
证明:
设 R(A)=r ,存在 m 阶可逆矩阵 P 和 n 阶可逆矩阵 Q ,使得有以下标准形矩阵:
PAQ=[IrOOO]
将矩阵 Q−1B 分块为
Q−1B=[B1B2]
其中 B1 是 r×p 矩阵, B2 是 (n−r)×p 矩阵。由于
PAB=PAQQ−1B=[IrOOO][B1B2]=[B1O]
所以
R(AB)=R(PAB)=R[B1O]=R(B1)
B1 是 Q−1B 去掉 n−r 行得到的矩阵,而矩阵每去掉一行秩减一或不变,因此
R(B1)≥R(Q−1B)−(n−r)=R(B)−(n−r)
从而
R(AB)≥R(A)+R(B)−n
伴随矩阵的秩的性质:
设 A 为 n (n≥2) 阶方阵, A∗ 是 A 的伴随矩阵,则:
- 当 R(A)=n 时, R(A∗)=n
- 当 R(A)=n−1 时, R(A∗)=1
- 当 R(A)<n−1 时, R(A∗)=0
证明:
当 R(A)=n 时,即 A 为满秩矩阵,所以 ∣A∗∣=∣A∣n−1=0 ,从而 R(A∗)=n 。
当 R(A)=n−1 时, ∣A∣=0 ,所以 AA∗=∣A∣I=O ,
由 R(A)+R(A∗)≤n ,得 R(A∗)≤1 ,
又因为 R(A)=n−1≥1 ,所以 A∗ 是非零矩阵,从而有 R(A∗)≥1 ,故 R(A∗)=1 。
当 R(A)<n−1 时, A 的每一个 n−1 阶子式都等于零,因而 A 的所有代数余子式均为零,即 A∗ 是零矩阵,故 R(A∗)=0 。
向量组的线性相关性
向量组的等价关系:
设 α1,α2,⋯,αs 为 n 维向量组, k1,k2,⋯,ks 为一组数,则下式
k1α1+k2α2+⋯+ksαs
称为该向量组的一个线性组合, k1,k2,⋯,ks 称为该线性组合的系数。若一个向量 α 可以被表示为一个向量组的线性组合,则称向量 α 可以被该向量组线性表示。
若一个向量组中的每一个向量都能由另一个向量组线性表示,即两个向量组能够互相线性表示,则称这两个向量组等价。
向量组的等价关系具有反身性,对称性和传递性。
线性相关:
若对于向量组 α1,α2,⋯,αs ,存在不全为零的数 λ1,λ2,⋯,λs ,使得
λ1α1+λ2α2+⋯+λsαs=0
则称向量组 α1,α2,⋯,αs 线性相关,否则,称 α1,α2,⋯,αs 线性无关。
线性无关的判别方法:如果存在数 λ1,λ2,⋯,λs ,使得 λ1α1+λ2α2+⋯+λsαs=0 ,则必然 λ1=λ2=⋯=λs=0 。
- 单个向量 α 线性相关的充分条件是 α=0 。
- 两个向量线性相关的充要条件是它们对应的分量成比例。
- 线性相关向量组的任何扩大组必线性相关,即若 α1,α2,⋯,αs 线性相关,任意增加有限个向量 αs+1,⋯,αm 所构成的新向量组 α1,α2,⋯,αs,αs+1,⋯,αm 仍然线性相关。
- 线性无关向量组的任何以一个非空部分向量组仍线性无关。
向量组 α1,α2,⋯,αs 线性相(无)关的充要条件是齐次线性方程组 x1α1+x2α2+⋯+xsαs=0 有(无)非零解。
推论:
- 存在向量组 α1,α2,⋯,αs , 矩阵 A=[α1,α2,⋯,αs]
向量组线性相关的充要条件是 R(A)<s
向量组线性无关的充要条件是 R(A)=s
- n 个 n 维向量线性无关的充要条件是它们排成的 n 阶行列式值不为零。
- m>n 时, m 个 n 维向量一定线性相关。
线性相关与线性表示的关系:
- 向量组 α1,α2,⋯,αs 线性相关的充要条件是该向量组中至少存在一个向量能由其余的 s−1 个向量线性表示。
- 设向量组 α1,α2,⋯,αs 线性无关,且向量 β 能由 α1,α2,⋯,αs 线性表示,则表示法是唯一的。
- 设向量组 α1,α2,⋯,αs 线性无关, 且向量组 α1,α2,⋯,αs,β 线性相关,则向量 β 能由 α1,α2,⋯,αs 唯一线性表示。
向量组的秩
对于向量组 A:α1,α2,⋯,αs ,如果存在 A 的部分向量组 A0:αj1,αj2,⋯,αjr ,满足:
- 向量组 A0 线性无关;
- 向量组 A 中的任一向量可用 A0 线性表示。
则称 A0 是 A 的一个极大线性无关向量组,简称极大无关组,极大无关组所含的向量的个数 r 称为向量组 A 的秩,记作 R(α1,α2,⋯,αs) ,向量组的秩是唯一确定的。
由上述定义我们可以推得如下结论:
- 向量组线性无关的充要条件是向量组的秩等于该组向量的个数;
向量组线性相关的充要条件是向量组的秩小于该组向量的个数。
- 向量组 A 的部分向量组 A0 为 A 的极大无关组的充要条件是:
1)向量组 A0 线性无关;
2)A 中任意 r+1 个向量都线性相关。
- 若向量组 A 的秩为 r (r>0) ,则 A 中任意 r 个线性无关的向量都是 A 的一个极大无关组。
性质:
- 向量组与它的任意一个极大无关组等价。
推论:一向量组的任意两个极大无关组等价。
- 设向量组 A 能由向量组 B 线性表示,则 R(A)≤R(B) 。
- 等价向量组的秩相同。
矩阵的行秩与列秩
有了向量组的秩的概念后,我们就可以定义矩阵的行秩和列秩:矩阵的行向量组的秩称为矩阵的行秩,列向量组的秩称为列秩。
事实上,矩阵的秩 = 矩阵的行秩 = 矩阵的列秩。
证明:
设矩阵 A 的秩 R(A)=r ,并设 r 阶子式 Dr=0 。
由 Dr=0 可知 Dr 所在的 r 个列向量都线性无关;又由 A 中所有 r+1 阶子式的值均为零,可知 A 中任意 r+1 个列向量都线性相关,
因此, Dr 所在的 r 个列是 A 的列向量组的一个极大无关组,所以 A 的列秩等于 r ,即矩阵 A 的秩等于列秩。
由 R(A)=R(AT) ,而 AT 的列秩就是 A 的行秩,同理可证得,矩阵 A 的秩等于行秩。
因为初等变换不改变矩阵的秩,从而不改变行秩和列秩,因此可以用初等变换来求向量组的秩和极大无关组:
例: 有一向量组 {α1,α2,α3,α4,α5} ,将该向量组写成矩阵形式,并进行初等行变换,得到:
[α1,α2,α3,α4,α5]→1000a1100a2b100a3b210a4b3c10
取非零行的首非零元所在的列,可以得到一个三阶非零子式:
D=100a110a3b21
从而该向量组的秩为3, α1,α2,α4 是该向量组的一个极大无关组。
有了前面的理论,我们将方便地用向量组地秩地结论讨论矩阵秩的有关结论:
证明: R(AB)≤min{R(A),R(B)}
记 Cm×n=Am×nBn×p ,并设
C=[c1,c2,⋯,cp]A=[a1,a2,⋯,an]B=[bij]
由
[c1,c2,⋯,cp]=[a1,a2,⋯,an]b11⋱bnp
可知,矩阵 C 的列向量能用 A 的列向量线性表示,所以
R(C)≤R(A)
又因为 CT=BTAT ,用类似的方法证明可得 R(CT)≤R(BT) ,即
R(C)≤R(B)
综上所述,可以证得:
R(AB)≤min{R(A),R(B)}
证明: R(A+B)≤R(A)+R(B)
显然 A+B 的列向量组可由 A 的列向量组和 B 的列向量组线性表示。
设 R(A)=s,R(B)=t ,不妨设 α1,α2,⋯,αs 是 A 的一个极大无关组, β1,β2,⋯,βt 是 B 的一个极大无关组。
由于向量组和它的极大无关组等价,由传递性可知 A+B 的列向量组可由向量组 α1,α2,⋯,αs 和 β1,β2,⋯,βt 线性表示,因此
R(A+B)≤R(α1,⋯,αs,β1,⋯,βt)≤s+t=R(A)+R(B)
秩的几何意义
我们可以将矩阵写成列向量组的形式 A=[α1,α2,⋯,αn] ,这些列向量可以张成一个列空间,即线性表示出的向量
α=x1α1+x2α2+⋯+xnαn
所形成的空间。而秩所代表的,就是这样一个列空间的维度。
而矩阵变换就是将原来的向量变换到列空间中,因此列空间的维度就是变换后向量的维度,即矩阵的秩就是向量在经过这一矩阵变换后所处的空间维度。
由此,我们可以得到秩的几何意义:
- 秩是列空间的维度。
- 秩是图像经过矩阵变换后的空间维度。
解线性方程组
一般地, n 个未知量 m 个方程的线性方程组可以表示为:
⎩⎨⎧a11x1+a12x2+⋯+a1nxn=b1a21x1+a22x2+⋯+a2nxn=b1⋯am1x1+am2x2+⋯+amnxn=b1
可以记作
A=a11⋱amn,x=x1x2⋮xn,b=b1b2⋮bn
Ax=b
称 m×n 矩阵 A 为线性方程组的系数矩阵(Coefficient matrix),称 m×(n+1) 矩阵 B=[A,b] 为线性方程组的增广矩阵(Augmented matrix)。
当 b=0 时,该线性方程组称作齐次线性方程组(Homogeneous linear equations);反之,当 b=0 时,该线性方程组称作非齐次线性方程组(Nonhomogeneous linear equations)。
若找到常数 ξ1,ξ2,⋯,ξn 依次代替未知量 x1,x2,⋯,xn ,使方程组中所有方程均为恒等式,则此时方程组有解,并称向量
ξ=x1x2⋮xn
为方程组的解向量,或说 x=ξ 是 Ax=b 的解。
线性方程组有解时,该线性方程组是相容的(Consistent),否则是不相容的(Inconsistent)。
克莱姆法则(Cramer’s rule)
n 个未知量 n 个方程的线性方程组 Ax=b ,若 ∣A∣=0 ,则方程组有唯一解:
xj=∣A∣Dj,j=1,2,⋯,n
其中 Dj 是以 b 的元素代替 ∣A∣ 中第 j 列所得到的行列式。
这实际上就是 x=A−1b 的展开形式。
证明:
充分性:
因为 ∣A∣=0 ,所以 A 可逆,那么显然 x0=A−1b 是方程组的一个解,又设有另一个不同于 x1 的解 x1 使得 Ax1=b ,两边同时左乘 A−1 得
A−1(Ax1)=A−1b=x0
又因为
A−1(Ax1)=(A−1A)x1=Ix1=x1
则 x1=x0 产生矛盾,因此不存在和 x0 不同的解。
必要性:
设方程组存在唯一解 x0 ,若 A 不可逆,则齐次线性方程组 Ax=0 有非零解 x1 ,使得
A(x0+x1)=Ax0+Ax1=b+0=b
因此 x0+x1 也是方程组的解,与方程组有唯一解产生矛盾,故 A 必然可逆。
消元法
设非齐次线性方程组 Ax=b ,其中 A=(aij)m×n ,且 R(A)=r 。
不妨设矩阵 A 的前 r 列中有 r 阶非零子式,对增广矩阵 B=[A,b] 施以行的换法变换,将非零子式所在的行调整至前 r 行,再经过若干次初等行变换,将 B 化为行最简矩阵:
(C,d)=101⋯⋱⋱0⋮01c1,r+1⋮cr−1,r+1cr,r+100⋮0⋯⋯⋯⋯⋯⋯c1n⋮cr−1,ncrn00⋮0d1⋮dr−1drdr+10⋮0
它所对应的与原方程 Ax=b 同解的方程组为:
⎩⎨⎧x1x2xr+c1,r+1xr+1+c2,r+1xr+1+cr,r+1xr+1+⋯+⋯+⋯c1nxnc1nxn⋯+crn00⋯0======d1d2drdr+100
由于初等变换不改变矩阵的秩,所以
R(A)=R(C)=r
从而
R(A,b)=R(C,d)={r,r+1,dr+1=0dr+1=0
当 dr+1=0 时,方程组的第 r+1 个方程产生矛盾,故方程组无解。
当 dr+1=0 时, R(A,b)=R(A)=r ,若 r=n ,则方程组有唯一解
xj=dj(j=1,2,⋯,n)
若 r<n ,则原式可以改写为
⎩⎨⎧x1=d1−c1,r+1xr+1−⋯−c1nxnx2=d2−c2,r+1xr+1−⋯−c2nxn⋯xr=dr−cr,r+1xr+1−⋯−crnxn
由此可见,任给 xr+1,xr+2,⋯,xn 的一组值,就可以确定对应的 x1,x2,⋯,xr 的值,由此得到方程组的一个解。此时,方程组拥有无穷多个解,称 xr+1,xr+2,⋯,xn 为一组自由未知量。
综合以上讨论,我们可以得到以下几个定理。
线性方程组解的存在定理:
n 元非齐次线性方程组 Ax=b 有解的充要条件是 R(A)=R(A,b)
有无穷多解: R(A)=R(A,b)<n
有唯一解: R(A)=R(A,b)=n
n 元齐次线性方程组 Ax=0 有非零解的充要条件是 R(A)<n
仅有零解的充要条件是 R(A)=n
解的结构
针对方程组具有无穷多解的情况,我们需要讨论解的结构。
齐次线性方程组解的结构:
设 ξ1,ξ2,⋯,ξt 是齐次线性方程组的解,并且
- ξ1,ξ2,⋯,ξt 线性无关;
- 方程组的任一解都可以用 ξ1,ξ2,⋯,ξt 线性表示,
则称 ξ1,ξ2,⋯,ξt 是方程组的一个基础解系。
基础解系实际上就是全体解向量的一个极大无关组。
当方程组 Ax=0 有非零解时,求其基础解系:
R(A)=r<n ,不妨设 A 的前 r 个列向量线性无关,进行初等行变换,得到行最简形矩阵:
C=1⋮00⋮0⋯⋯⋯⋯0⋮10⋮0c11⋮cr10⋮0⋯⋯⋯⋯c1,n−r⋮cr,n−r0⋮0
与 C 对应的方程组为:
⎩⎨⎧x1=−c11xr+1−⋯−c1,n−rxnx2=−c21xr+1−⋯−c2,n−rxn⋯xr=−cr1xr+1−⋯−cr,n−rxn
这个方程组是原方程组的一个同解方程组。
现在令 xr+1,⋯,xn 分别取下列数:
xr+1xr+2⋮xn=10⋮0,01⋮0,⋯,00⋮1
则由上述方程组可以依次求得:
xr+1xr+2⋮xn=−c11−c21⋮−cr1,−c12−c22⋮−cr2,⋯,−c1,n−r−c2,n−r⋮−cr,n−r
从而求得方程组的 n−r 个解:
ξ1=−c11−c21⋮−cr110⋮0,ξ2=−c12−c22⋮−cr201⋮0,⋯,ξn−r=−c1,n−r−c2,n−r⋮−cr,n−r00⋮1
ξ1,ξ2,⋯,ξn−r 就是方程组的一个基础解系,方程组的所有解都可以由其线性表示,称之为方程组的通解:
x=k1ξ1+k2ξ2+⋯+kn−rξn−r
基础解系并不是唯一的,对于有非零解的齐次线性方程组,它的任意 n−r 个线性无关的解向量都可以构成一个基础解系,在实际求解方程组时,自由未知量的选择也并不是唯一的。
非齐次线性方程组解的结构:
设 x=η 和 x=η0 是非齐次线性方程组 Ax=b 的解,则
A(η−η0)=Aη−Aη0=b−b=0
因此 x=η−η0 是其对应的齐次线性方程组 Ax=0 的解。
设 x=η 是非齐次线性方程组 Ax=b 的解, x=ξ 是其对应的齐次线性方程组 Ax=0 的解,则
A(ξ+η)=Aξ+Aη=0+b=b
因此 x=ξ+η 也是 Ax=b 的解。
由此,我们可以证得非齐次线性方程组解的结构定理:
设 ξ1,ξ2,⋯,ξn−r 是 Ax=0 的基础解系,存在一组常数 k1,k2,⋯,kn−r ,使得
η−η0=k1ξ1+k2ξ2+⋯+kn−rξn−r
所以 Ax=b 的通解为:
η=k1ξ1+k2ξ2+⋯+kn−rξn−r+η0
综上所述,只要找到非齐次线性方程组对应的齐次线性方程组的基础解系和非齐次线性方程组的一个解,就可以求出非齐次线性方程组的通解。