考研相關文章參考資料為 wjungle 大神提供的筆記

Ch4 線性映射

線性轉換

定義

令 V,V′V,V' 為 field FF 上的 vector spaces，且 T:V→V′T:V\to V' 為 function。若 TT 滿足:

  • 對任意 u⃗,v⃗∈V\vec{u},\vec{v}\in V，有 T(u⃗+v⃗)=T(u⃗)+T(v⃗)T(\vec{u}+\vec{v})=T(\vec{u})+T(\vec{v})
  • 對任意 c∈Fc\in F、v⃗∈V\vec{v}\in V，有 T(cv⃗)=cT(v⃗)T(c\vec{v})=cT(\vec{v})

則稱 TT 為 VV 至 V′V' 之一 linear transformation，也稱為 linear mapping。

定理

T:V→V′T:V\to V' 為 linear transformation，等價於以下任一條件:

  • 對任意 c,d∈Fc,d\in F、u⃗,v⃗∈V\vec{u},\vec{v}\in V，有 T(cu⃗+dv⃗)=cT(u⃗)+dT(v⃗)T(c\vec{u}+d\vec{v})=cT(\vec{u})+dT(\vec{v})
  • 對任意 c∈Fc\in F、u⃗,v⃗∈V\vec{u},\vec{v}\in V，有 T(cu⃗+v⃗)=cT(u⃗)+T(v⃗)T(c\vec{u}+\vec{v})=cT(\vec{u})+T(\vec{v})
Note

若 T:V→V′T:V\to V' 為 linear transformation，則:

  • 重要 T(0⃗)=0⃗T(\vec{0})=\vec{0}
  • T(−v⃗)=−T(v⃗)T(-\vec{v})=-T(\vec{v})
  • T(u⃗−v⃗)=T(u⃗)−T(v⃗)T(\vec{u}-\vec{v})=T(\vec{u})-T(\vec{v})
定理

令 V,V′V,V' 為 field FF 上的 vector spaces，且 β={v⃗1,…,v⃗n}\beta=\{\vec{v}_1,\dots,\vec{v}_n\} 為 VV 的一組 basis。

若任取 w⃗1,…,w⃗n∈V′\vec{w}_1,\dots,\vec{w}_n\in V'，則存在唯一的 linear transformation T:V→V′T:V\to V'，使得 T(v⃗1)=w⃗1,…,T(v⃗n)=w⃗nT(\vec{v}_1)=\vec{w}_1,\dots,T(\vec{v}_n)=\vec{w}_n

Note

matrix transformation:
令 AA 為 m×nm\times n matrix，定義 T:Fn×1→Fm×1T:F^{n\times 1}\to F^{m\times 1} by T(x⃗)=Ax⃗T(\vec{x})=A\vec{x} 則 TT 為 linear transformation。

Note

若 T:Rn→RmT:\mathbb{R}^n\to\mathbb{R}^m 為 linear transformation，則存在唯一 m×nm\times n matrix AA，使得 T(x⃗)=Ax⃗T(\vec{x})=A\vec{x}

其中 A=[T(e⃗1) T(e⃗2) ⋯ T(e⃗n)]A=[T(\vec{e}_1)\ T(\vec{e}_2)\ \cdots\ T(\vec{e}_n)]為 TT 的 standard matrix。

Note

常見之 linear transformation:

  • rotation: 旋轉
  • projection: 投影
  • reflection: 鏡射
範例

令 T:R2→R2T:\mathbb{R}^2\to\mathbb{R}^2 為逆時針旋轉 θ\theta 的 linear transformation，求 TT 之 standard matrix。

因為 R2\mathbb{R}^2 的 standard basis 為 e⃗1=(1,0)\vec{e}_1=(1,0)、e⃗2=(0,1)\vec{e}_2=(0,1)，且 T(e⃗1)=(cos⁡θ,sin⁡θ),T(e⃗2)=(−sin⁡θ,cos⁡θ)T(\vec{e}_1)=(\cos\theta,\sin\theta), T(\vec{e}_2)=(-\sin\theta,\cos\theta)

所以逆時針旋轉 θ\theta 的 standard matrix 為:

Rθ=[cos⁡θ−sin⁡θsin⁡θcos⁡θ]R_{\theta}=\begin{bmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\end{bmatrix}

若是順時針旋轉 θ\theta，則等同於逆時針旋轉 −θ-\theta，其 standard matrix 為:

R−θ=[cos⁡θsin⁡θ−sin⁡θcos⁡θ]R_{-\theta}=\begin{bmatrix}\cos\theta&\sin\theta\\-\sin\theta&\cos\theta\end{bmatrix}

Note

旋轉矩陣常用性質:

  • Rθ−1=R−θR_{\theta}^{-1}=R_{-\theta}
  • (Rθ)n=Rnθ(R_{\theta})^n=R_{n\theta}
Note

rotation in R3\mathbb{R}^3:

繞 zz 軸逆時針旋轉 θ\theta:

[cos⁡θ−sin⁡θ0sin⁡θcos⁡θ0001]\begin{bmatrix} \cos\theta&-\sin\theta&0\\ \sin\theta&\cos\theta&0\\ 0&0&1 \end{bmatrix}

繞 xx 軸逆時針旋轉 θ\theta:

[1000cos⁡θ−sin⁡θ0sin⁡θcos⁡θ]\begin{bmatrix} 1&0&0\\ 0&\cos\theta&-\sin\theta\\ 0&\sin\theta&\cos\theta \end{bmatrix}

繞 yy 軸逆時針旋轉 θ\theta:

[cos⁡θ0sin⁡θ010−sin⁡θ0cos⁡θ]\begin{bmatrix} \cos\theta&0&\sin\theta\\ 0&1&0\\ -\sin\theta&0&\cos\theta \end{bmatrix}

dilation / contraction:

若 T(x⃗)=kx⃗T(\vec{x})=k\vec{x}，則 k≥1k\ge 1 時為 dilation，0<k<10<k<1 時為 contraction，其 standard matrix 為:

A=[k000k000k]A=\begin{bmatrix} k&0&0\\ 0&k&0\\ 0&0&k \end{bmatrix}

Note

translation:
令 T:R2→R2T:\mathbb{R}^2\to\mathbb{R}^2 by

T([xy])=[xy]+[23]=[x+2y+3]T\left(\begin{bmatrix}x\\y\end{bmatrix}\right) =\begin{bmatrix}x\\y\end{bmatrix}+\begin{bmatrix}2\\3\end{bmatrix} =\begin{bmatrix}x+2\\y+3\end{bmatrix}

則 TT 不是 linear transformation，因為 T(0⃗)≠0⃗T(\vec{0})\ne\vec{0}。

但可用 homogeneous coordinate 表示為矩陣乘法:

[x+2y+31]=[102013001][xy1]\begin{bmatrix}x+2\\y+3\\1\end{bmatrix} =\begin{bmatrix} 1&0&2\\ 0&1&3\\ 0&0&1 \end{bmatrix} \begin{bmatrix}x\\y\\1\end{bmatrix}

這裡最後一個座標固定為 11，用來把平移寫成矩陣形式。

座標化

定義

令 β={v⃗1,v⃗2,…,v⃗n}\beta=\{\vec{v}_1,\vec{v}_2,\dots,\vec{v}_n\} 為 VV 的一組 ordered basis。

若 v⃗∈V\vec{v}\in V，且 v⃗=c1v⃗1+c2v⃗2+⋯+cnv⃗n\vec{v}=c_1\vec{v}_1+c_2\vec{v}_2+\cdots+c_n\vec{v}_n

則稱

[v⃗]β=[c1c2⋮cn][\vec{v}]_{\beta}=\begin{bmatrix}c_1\\c_2\\\vdots\\c_n\end{bmatrix}

為 v⃗\vec{v} 相對於 β\beta 之 coordinate vector。

Note

設 β\beta 為 VV 的一組 ordered basis。

  1. [v⃗]β[\vec{v}]_{\beta} 存在且唯一。
  2. [c1v⃗1+⋯+ckv⃗k]β=c1[v⃗1]β+⋯+ck[v⃗k]β[c_1\vec{v}_1+\cdots+c_k\vec{v}_k]_{\beta}=c_1[\vec{v}_1]_{\beta}+\cdots+c_k[\vec{v}_k]_{\beta}。
  3. [u⃗]β=[v⃗]β  ⟺  u⃗=v⃗[\vec{u}]_{\beta}=[\vec{v}]_{\beta}\iff \vec{u}=\vec{v}。
  4. 若 dim⁡(V)=n\dim(V)=n，則對任意 x⃗∈Fn×1\vec{x}\in F^{n\times1}，存在唯一 v⃗∈V\vec{v}\in V，使得 [v⃗]β=x⃗[\vec{v}]_{\beta}=\vec{x}。
定義

令 V,WV,W 為 field FF 上的 vector spaces。
若存在 T:V→WT:V\to W，且 TT 為 linear、one-to-one、onto，則稱 TT 為 linear isomorphism (線性同構函數)。

此時稱 VV 與 WW 為 isomorphic (同構)，記作 V≅WV\cong W

Note

有限維向量空間的同構 (維度相同即同構):

  • 若 dim⁡(V)=n\dim(V)=n，則 V≅Fn×1V\cong F^{n\times1}。
  • ≅\cong 為一種等價關係。
  • 若 dim⁡(V)=dim⁡(W)=n\dim(V)=\dim(W)=n，則 V≅WV\cong W。
Note

令 β={v⃗1,…,v⃗n}\beta=\{\vec{v}_1,\dots,\vec{v}_n\} 與 γ={u⃗1,…,u⃗n}\gamma=\{\vec{u}_1,\dots,\vec{u}_n\} 皆為 VV 的 ordered basis。

若 v⃗∈V\vec{v}\in V，且 v⃗=c1v⃗1+⋯+cnv⃗n\vec{v}=c_1\vec{v}_1+\cdots+c_n\vec{v}_n

將 v⃗\vec{v} 改以 γ\gamma 表示時，有 [v⃗]γ=[c1v⃗1+⋯+cnv⃗n]γ=c1[v⃗1]γ+⋯+cn[v⃗n]γ[\vec{v}]_{\gamma}=[c_1\vec{v}_1+\cdots+c_n\vec{v}_n]_{\gamma}=c_1[\vec{v}_1]_{\gamma}+\cdots+c_n[\vec{v}_n]_{\gamma}

因此 [v⃗]γ=[[v⃗1]γ[v⃗2]γ⋯[v⃗n]γ][v⃗]β=[I]βγ[v⃗]β[\vec{v}]_{\gamma}=\begin{bmatrix}[\vec{v}_1]_{\gamma}&[\vec{v}_2]_{\gamma}&\cdots&[\vec{v}_n]_{\gamma}\end{bmatrix}[\vec{v}]_{\beta}=[I]_{\beta}^{\gamma}[\vec{v}]_{\beta}

稱 [I]βγ[I]_{\beta}^{\gamma} 為從 β\beta 到 γ\gamma 的 transition matrix，或 change of coordinate matrix。

  • [I]βγ[I]_{\beta}^{\gamma} 可逆，且 [I]γβ=([I]βγ)−1[I]_{\gamma}^{\beta}=\left([I]_{\beta}^{\gamma}\right)^{-1}
Note

求 transition matrix 時，可使用標準基底作為中間項。
令 δ\delta 為 Fn×1F^{n\times1} 的 standard basis，則 [I]βγ=[I]δγ[I]βδ=([I]γδ)−1[I]βδ[I]_{\beta}^{\gamma}=[I]_{\delta}^{\gamma}[I]_{\beta}^{\delta} =\left([I]_{\gamma}^{\delta}\right)^{-1}[I]_{\beta}^{\delta}

  • 可利用 [B∣A]∼r[I∣B−1A][B\mid A]\overset{r}{\sim}[I\mid B^{-1}A] 求解

矩陣表示法

Note

令 T:V→V′T:V\to V' 為 linear transformation，且 dim⁡(V)=n\dim(V)=n、dim⁡(V′)=m\dim(V')=m。

設 β={v⃗1,…,v⃗n}\beta=\{\vec{v}_1,\dots,\vec{v}_n\} 為 VV 的 ordered basis，γ={u⃗1,…,u⃗m}\gamma=\{\vec{u}_1,\dots,\vec{u}_m\} 為 V′V' 的 ordered basis。

若 v⃗∈V\vec{v}\in V，且 v⃗=c1v⃗1+⋯+cnv⃗n\vec{v}=c_1\vec{v}_1+\cdots+c_n\vec{v}_n，則

[v⃗]β=[c1⋮cn][\vec{v}]_{\beta}=\begin{bmatrix}c_1\\\vdots\\c_n\end{bmatrix}

由線性性質可得 [T(v⃗)]γ=[T(c1v⃗1+⋯+cnv⃗n)]γ=c1[T(v⃗1)]γ+⋯+cn[T(v⃗n)]γ[T(\vec{v})]_{\gamma}=[T(c_1\vec{v}_1+\cdots+c_n\vec{v}_n)]_{\gamma}=c_1[T(\vec{v}_1)]_{\gamma}+\cdots+c_n[T(\vec{v}_n)]_{\gamma}

因此

[T(v⃗)]γ=[[T(v⃗1)]γ[T(v⃗2)]γ⋯[T(v⃗n)]γ][v⃗]β=[T]βγ[v⃗]β[T(\vec{v})]_{\gamma} =\begin{bmatrix} [T(\vec{v}_1)]_{\gamma}&[T(\vec{v}_2)]_{\gamma}&\cdots&[T(\vec{v}_n)]_{\gamma} \end{bmatrix} [\vec{v}]_{\beta}=[T]_{\beta}^{\gamma}[\vec{v}]_{\beta}

稱 [T]βγ[T]_{\beta}^{\gamma} 為 TT 相對於 ordered bases β,γ\beta,\gamma 的 matrix representation。

定理

換底公式:
令 T:V→VT:V\to V 為 linear operator，且 β,γ\beta,\gamma 為 VV 的兩組 ordered bases。

則 [T]γγ=[I]βγ[T]ββ[I]γβ[T]_{\gamma}^{\gamma} =[I]_{\beta}^{\gamma}[T]_{\beta}^{\beta}[I]_{\gamma}^{\beta}

也可寫成 B=P−1APB=P^{-1}AP

  • AA 與 BB similar
定理

令 T:V→V′T:V\to V' 為 linear transformation。

設 β,γ\beta,\gamma 為 VV 的兩組 ordered bases，β′,γ′\beta',\gamma' 為 V′V' 的兩組 ordered bases。

則 [T]γγ′=[I]β′γ′[T]ββ′[I]γβ[T]_{\gamma}^{\gamma'}=[I]_{\beta'}^{\gamma'}[T]_{\beta}^{\beta'}[I]_{\gamma}^{\beta}
可寫成 B=PAQB=PAQ

Kernel 與 Image

定義

令 T:V→V′T:V\to V' 為 linear transformation。

  • 若 S⊆VS\subseteq V，定義 T(S)={T(v⃗)∣v⃗∈S}T(S)=\{T(\vec{v})\mid \vec{v}\in S\}，稱為 SS under TT 的 direct image。
  • 若 S′⊆V′S'\subseteq V'，定義 T−1(S′)={v⃗∈V∣T(v⃗)∈S′}T^{-1}(S')=\{\vec{v}\in V\mid T(\vec{v})\in S'\}，稱為 S′S' under TT 的 inverse image。
    • T−1(S′)T^{-1}(S') 不需要 TT 可逆。
定理

保持 subspace:
令 T:V→V′T:V\to V' 為 linear transformation。

  • 若 W⊆sVW\overset{s}{\subseteq}V，則 T(W)⊆sV′T(W)\overset{s}{\subseteq}V'。
  • 若 W′⊆sV′W'\overset{s}{\subseteq}V'，則 T−1(W′)⊆sVT^{-1}(W')\overset{s}{\subseteq}V。
定義

令 T:V→V′T:V\to V' 為 linear transformation。

  • ker⁡(T)={v⃗∈V∣T(v⃗)=0⃗}\ker(T)=\{\vec{v}\in V\mid T(\vec{v})=\vec{0}\}，稱為 TT 的 kernel/nullspace，記作 N(T)N(T)。
  • Im⁡(T)=T(V)={T(v⃗)∣v⃗∈V}\operatorname{Im}(T)=T(V)=\{T(\vec{v})\mid \vec{v}\in V\}，稱為 TT 的 image/range，記作 R(T)R(T)。
Note
  1. 因為 V⊆sVV\overset{s}{\subseteq}V，所以 Im⁡(T)=T(V)⊆sV′\operatorname{Im}(T)=T(V)\overset{s}{\subseteq}V'。
  2. 因為 {0⃗}⊆sV′\{\vec{0}\}\overset{s}{\subseteq}V'，所以 ker⁡(T)=T−1({0⃗})⊆sV\ker(T)=T^{-1}(\{\vec{0}\})\overset{s}{\subseteq}V。
  3. 定義 rank⁡(T)=dim⁡(Im⁡(T))\operatorname{rank}(T)=\dim(\operatorname{Im}(T))。
  4. 定義 nullity⁡(T)=dim⁡(ker⁡(T))\operatorname{nullity}(T)=\dim(\ker(T))。
定理

令 T:V→V′T:V\to V' 為 linear transformation。

若 S={v⃗1,…,v⃗n}S=\{\vec{v}_1,\dots,\vec{v}_n\} 為 VV 的 basis，或更一般地 SS 生成 VV，則

Im⁡(T)=span⁡(T(S))=span⁡{T(v⃗1),…,T(v⃗n)}\operatorname{Im}(T)=\operatorname{span}(T(S)) =\operatorname{span}\{T(\vec{v}_1),\dots,T(\vec{v}_n)\}

因此要求 Im⁡(T)\operatorname{Im}(T) 時，只要把 VV 的一組生成集 (通常取標準基底) 丟進 TT，再取其 span 即可。

定理

Rank-Nullity Theorem / Dimension Theorem / Sylvester's 1st Law:

令 T:V→V′T:V\to V' 為 linear transformation。則

dim⁡(V)=dim⁡(ker⁡(T))+dim⁡(Im⁡(T))=nullity⁡(T)+rank⁡(T)\dim(V)=\dim(\ker(T))+\dim(\operatorname{Im}(T))=\operatorname{nullity}(T)+\operatorname{rank}(T)

Note

令 T:V→V′T:V\to V' 為 linear transformation。

  • TT 為 1-1/injective   ⟺  \iff 若 T(u⃗)=T(v⃗)T(\vec{u})=T(\vec{v})，則 u⃗=v⃗\vec{u}=\vec{v}。
  • TT 為 onto/surjective   ⟺  R(T)=V′\iff R(T)=V'。
  • TT 為 bijective   ⟺  T\iff T 同時為 1-1 且 onto。
定理

令 T:V→V′T:V\to V' 為 linear transformation。

則 T is 1-1  ⟺  ker⁡(T)={0⃗}T\text{ is 1-1}\iff \ker(T)=\{\vec{0}\}

Note

令 T:V→V′T:V\to V' 為 linear transformation。

  • TT is 1-1   ⟺  ker⁡(T)={0⃗}\iff \ker(T)=\{\vec{0}\}   ⟺  nullity⁡(T)=0\iff \operatorname{nullity}(T)=0   ⟺  rank⁡(T)=dim⁡(V)\iff \operatorname{rank}(T)=\dim(V)。
  • TT is onto   ⟺  R(T)=V′\iff R(T)=V'   ⟺  rank⁡(T)=dim⁡(V′)\iff \operatorname{rank}(T)=\dim(V')   ⟺  nullity⁡(T)=dim⁡(V)−dim⁡(V′)\iff \operatorname{nullity}(T)=\dim(V)-\dim(V')。

可得:

  • 若 TT is 1-1，則 dim⁡(V)≤dim⁡(V′)\dim(V)\le \dim(V')。
  • 若 TT is onto，則 dim⁡(V)≥dim⁡(V′)\dim(V)\ge \dim(V')。
  • 若 TT is 1-1 且 onto，則 dim⁡(V)=dim⁡(V′)\dim(V)=\dim(V')。
  • 對有限維向量空間而言，同構必同維。
Note

矩陣轉換與四大子空間:

令 AA 為 m×nm\times n matrix，定義 T:Rn→RmT:\mathbb{R}^n\to\mathbb{R}^m by T(x⃗)=Ax⃗T(\vec{x})=A\vec{x}，則 TT 為 linear transformation。

  • R(T)=Im⁡(T)={Ax⃗∣x⃗∈Rn}=CS(A)=R(A)R(T)=\operatorname{Im}(T)=\{A\vec{x}\mid \vec{x}\in\mathbb{R}^n\}=CS(A)=R(A)。
  • N(T)=ker⁡(T)={x⃗∈Rn∣Ax⃗=0⃗}=ker⁡(A)=N(A)N(T)=\ker(T)=\{\vec{x}\in\mathbb{R}^n\mid A\vec{x}=\vec{0}\}=\ker(A)=N(A)。
  • RS(A)=R(AT)RS(A)=R(A^T)。
  • Lker⁡(A)=ker⁡(AT)=N(AT)\operatorname{Lker}(A)=\ker(A^T)=N(A^T)。

因此:

  • TT is 1-1   ⟺  ker⁡(T)=ker⁡(A)={0⃗}\iff \ker(T)=\ker(A)=\{\vec{0}\}   ⟺  A\iff A 的欄向量 LI   ⟺  rank⁡(A)=n\iff \operatorname{rank}(A)=n。
    • 必為長矩陣 (反向不成立)
  • TT is onto   ⟺  R(T)=CS(A)=Rm\iff R(T)=CS(A)=\mathbb{R}^m   ⟺  A\iff A 的欄向量生成 Rm\mathbb{R}^m   ⟺  rank⁡(A)=m\iff \operatorname{rank}(A)=m。
    • 必為扁矩陣 (反向不成立)

所以 AA 若同時滿足欄向量 LI 且生成 Rm\mathbb{R}^m，則 TT 為 bijective。

定理

令 T:V→V′T:V\to V' 為 linear transformation。
若 dim⁡(V)=dim⁡(V′)\dim(V)=\dim(V')，則 T is 1-1  ⟺  T is ontoT\text{ is 1-1}\iff T\text{ is onto}

定義

令 T:V→V′T:V\to V' 為 linear transformation。

  1. 若對任意 S⊆VS\subseteq V，SS 為 LD 時皆有 T(S)T(S) 為 LD，則稱 TT 保相依。
  2. 若對任意 S⊆VS\subseteq V，SS 為 LI 時皆有 T(S)T(S) 為 LI，則稱 TT 保獨立。
  3. 若對任意 S⊆VS\subseteq V，SS 生成 VV 時皆有 T(S)T(S) 生成 V′V'，則稱 TT 保生成。
定理

令 T:V→V′T:V\to V' 為 linear transformation。
則 TT 保相依。

定理

令 T:V→V′T:V\to V' 為 linear transformation。
則 TT is 1-1   ⟺  T\iff T 保獨立。

Note
  • 對任意 linear transformation，若 {v⃗1,…,v⃗k}\{\vec{v}_1,\dots,\vec{v}_k\} 為 LD，則 {T(v⃗1),…,T(v⃗k)}\{T(\vec{v}_1),\dots,T(\vec{v}_k)\} 為 LD。
  • 若 TT is 1-1，則 {v⃗1,…,v⃗k}\{\vec{v}_1,\dots,\vec{v}_k\} 為 LI   ⟺  {T(v⃗1),…,T(v⃗k)}\iff \{T(\vec{v}_1),\dots,T(\vec{v}_k)\} 為 LI。
  • 若 TT is 1-1，則 {v⃗1,…,v⃗k}\{\vec{v}_1,\dots,\vec{v}_k\} 為 LD   ⟺  {T(v⃗1),…,T(v⃗k)}\iff \{T(\vec{v}_1),\dots,T(\vec{v}_k)\} 為 LD。
定理

令 T:V→V′T:V\to V' 為 linear transformation。
則 TT is onto   ⟺  T\iff T 保生成。

矩陣的 Rank

定義

令 AA 為 m×nm\times n matrix。

  • 定義 rr(A)=dim⁡(RS(A))rr(A)=\dim(RS(A))，稱為 AA 的 row rank。
  • 定義 cr(A)=dim⁡(CS(A))cr(A)=\dim(CS(A))，稱為 AA 的 column rank。
定理

令 AA 為 m×nm\times n matrix，則 rr(A)=cr(A)rr(A)=cr(A)

共同的值稱為 AA 的 rank，記作 rank⁡(A)\operatorname{rank}(A)。
可從三個角度理解:

  • row space 的維度。
  • column space 的維度。
  • 將 AA 化為 rref 後，非零列的數目。
Note
  • A=O  ⟺  rank⁡(A)=0A=O \iff \operatorname{rank}(A)=0。
  • 若 AA 為 m×nm\times n matrix，則 rank⁡(A)≤min⁡{m,n}\operatorname{rank}(A)\le \min\{m,n\}。
  • rank⁡(A)=rank⁡(AT)\operatorname{rank}(A)=\operatorname{rank}(A^T)。
  • 若 A∼rBA\overset{r}{\sim}B，則 rank⁡(A)=rank⁡(B)\operatorname{rank}(A)=\operatorname{rank}(B)。
  • 若 A∼cBA\overset{c}{\sim}B，則 rank⁡(A)=rank⁡(B)\operatorname{rank}(A)=\operatorname{rank}(B)。
  • 若 P,QP,Q 皆可逆，則 rank⁡(PA)=rank⁡(A)\operatorname{rank}(PA)=\operatorname{rank}(A)，且 rank⁡(AQ)=rank⁡(A)\operatorname{rank}(AQ)=\operatorname{rank}(A)。
定理

令 AA 為 m×nm\times n matrix，BB 為 n×pn\times p matrix，則 rank⁡(AB)≤min⁡{rank⁡(A),rank⁡(B)}\operatorname{rank}(AB)\le \min\{\operatorname{rank}(A),\operatorname{rank}(B)\}

範例

令 AA 為 m×nm\times n matrix，BB 為 n×mn\times m matrix，且 m>nm>n。證明 ABAB 不可逆。
因為 ABAB 為 m×mm\times m matrix，且 rank⁡(AB)≤rank⁡(A)≤n<m\operatorname{rank}(AB)\le \operatorname{rank}(A)\le n<m，故 ABAB 不可逆。

Note

若 AA 為非零矩陣，則 rank⁡(A)=1\operatorname{rank}(A)=1 等價於 AA 可寫成 A=x⃗y⃗TA=\vec{x}\vec{y}^{T}

例如:

A=[12342468369120000]=[1230][1234]A= \begin{bmatrix} 1&2&3&4\\ 2&4&6&8\\ 3&6&9&12\\ 0&0&0&0 \end{bmatrix} = \begin{bmatrix} 1\\ 2\\ 3\\ 0 \end{bmatrix} \begin{bmatrix} 1&2&3&4 \end{bmatrix}

因此 A=x⃗y⃗TA=\vec{x}\vec{y}^{T}，且 rank⁡(A)=1\operatorname{rank}(A)=1。

Note

rank 的幾何意義: 矩陣可視為線性轉換。

令 AA 為 m×nm\times n matrix，並定義 T:Rn→RmT:\mathbb{R}^{n}\to\mathbb{R}^{m} by T(x⃗)=Ax⃗T(\vec{x})=A\vec{x}。則:

  • rank⁡(T)=dim⁡(R(T))=dim⁡(R(A))=rank⁡(A)\operatorname{rank}(T)=\dim(R(T))=\dim(R(A))=\operatorname{rank}(A)。
  • nullity⁡(T)=dim⁡(N(T))=dim⁡(N(A))=nullity⁡(A)\operatorname{nullity}(T)=\dim(N(T))=\dim(N(A))=\operatorname{nullity}(A)。
定理

矩陣版維度定理:

令 AA 為 m×nm\times n matrix，則 rank⁡(A)+nullity⁡(A)=n\operatorname{rank}(A)+\operatorname{nullity}(A)=n

  • nn 是 AA 的欄數，也就是對應線性轉換 T:Rn→RmT:\mathbb{R}^{n}\to\mathbb{R}^{m} 的定義域維度。
Lemma

令 A,BA,B 皆為 m×nm\times n matrix，則:

  • CS(A+B)⊆CS(A)+CS(B)CS(A+B)\subseteq CS(A)+CS(B)。
  • RS(A+B)⊆RS(A)+RS(B)RS(A+B)\subseteq RS(A)+RS(B)。
定理

令 A,BA,B 皆為 m×nm\times n matrix，則 rank⁡(A+B)≤rank⁡(A)+rank⁡(B)\operatorname{rank}(A+B)\le \operatorname{rank}(A)+\operatorname{rank}(B)

Corollary

令 A,BA,B 皆為 m×nm\times n matrix，則 rank⁡(A−B)≥rank⁡(A)−rank⁡(B)\operatorname{rank}(A-B)\ge \operatorname{rank}(A)-\operatorname{rank}(B)

  • rank⁡(A)≤rank⁡(A−B)+rank⁡(B)\operatorname{rank}(A)\le \operatorname{rank}(A-B)+\operatorname{rank}(B)
定理

令 AA 為 m×nm\times n matrix，則:

  • AA 具有左反矩陣   ⟺  rank⁡(A)=n≤m\iff \operatorname{rank}(A)=n\le m。
  • AA 具有右反矩陣   ⟺  rank⁡(A)=m≤n\iff \operatorname{rank}(A)=m\le n。
Note

令 AA 為 m×nm\times n matrix，則

AA 具有左反矩陣   ⟺  rank⁡(A)=n\iff \operatorname{rank}(A)=n
  ⟺  dim⁡(CS(A))=n  ⟺  A 的欄向量 LI in Fm×1\iff \dim(CS(A))=n\iff A \text{ 的欄向量 LI in } F^{m\times 1}
  ⟺  dim⁡(RS(A))=n  ⟺  A 的列向量生成 F1×n\iff \dim(RS(A))=n\iff A \text{ 的列向量生成 } F^{1\times n}

AA 具有右反矩陣  ⟺  rank⁡(A)=m\iff \operatorname{rank}(A)=m
  ⟺  dim⁡(RS(A))=m  ⟺  A 的列向量 LI in F1×n\iff \dim(RS(A))=m\iff A \text{ 的列向量 LI in } F^{1\times n}
  ⟺  dim⁡(CS(A))=m  ⟺  A 的欄向量生成 Fm×1\iff \dim(CS(A))=m\iff A \text{ 的欄向量生成 } F^{m\times 1}

Note

令 AA 為 m×nm\times n matrix，x⃗∈Fn×1\vec{x}\in F^{n\times 1}，b⃗∈Fm×1\vec{b}\in F^{m\times 1}。

  • Ax⃗=b⃗A\vec{x}=\vec{b} 有解   ⟺  b⃗∈CS(A)\iff \vec{b}\in CS(A)。
  • Ax⃗=b⃗A\vec{x}=\vec{b} 對所有 b⃗∈Fm×1\vec{b}\in F^{m\times 1} 皆有解  ⟺  CS(A)=Fm×1  ⟺  rank⁡(A)=m\iff CS(A)=F^{m\times 1}\iff \operatorname{rank}(A)=m
    • 欄向量生成定義域
  • Ax⃗=b⃗A\vec{x}=\vec{b} 對所有 b⃗\vec{b} 至多一解   ⟺  rank⁡(A)=n\iff \operatorname{rank}(A)=n
    • 欄向量 LI
    • 仍可能無解，但有解則唯一
範例

  1. 若 AA 為 3×53\times 5 matrix，且 rank⁡(A)=3\operatorname{rank}(A)=3:
    對所有 b⃗\vec{b}，Ax⃗=b⃗A\vec{x}=\vec{b} 皆有解。
    又因 n−r(A)=5−3=2n-r(A)=5-3=2，所以每個 b⃗\vec{b} 都有無限多解。

  2. 若 AA 為 4×34\times 3 matrix，且 rank⁡(A)=3\operatorname{rank}(A)=3:
    AA 的欄向量 LI，所以對所有 b⃗\vec{b}，Ax⃗=b⃗A\vec{x}=\vec{b} 至多一解。
    因 r(A)<mr(A)<m，並非每個 b⃗\vec{b} 都有解。

  3. 若 AA 為 3×43\times 4 matrix，且 rank⁡(A)=2\operatorname{rank}(A)=2:
    r(A)<mr(A)<m，並非每個 b⃗\vec{b} 都有解。
    若 b⃗∈CS(A)\vec{b}\in CS(A)，則因 n−r(A)=4−2=2n-r(A)=4-2=2，有無限多解。

四大空間之基底

Note

令 AA 為 m×nm\times n matrix。

  • CS(A)=R(A)CS(A)=R(A)
  • RS(A)=R(AT)RS(A)=R(A^T)
  • ker⁡(A)=N(A)\ker(A)=N(A)
  • Lker⁡(A)=N(AT)\operatorname{Lker}(A)=N(A^T)

且有:

  • dim⁡(R(A))+dim⁡(N(A))=n\dim(R(A))+\dim(N(A))=n
  • dim⁡(R(AT))+dim⁡(N(AT))=m\dim(R(A^T))+\dim(N(A^T))=m
範例

求四大空間基底的流程:

  1. 先將 AA 化為 rref，記作 UU。
  2. RS(A)RS(A): 取 UU 的非零列向量。
  3. ker⁡(A)\ker(A): 解 Ux⃗=0⃗U\vec{x}=\vec{0}，由一般解取參數向量。
  4. CS(A)CS(A): 找出 UU 的 pivot columns，再回到原矩陣 AA 取對應欄向量。
  5. Lker⁡(A)\operatorname{Lker}(A): 解 ATy⃗=0⃗A^T\vec{y}=\vec{0}。

令

A=[121323490723518228−35]∼rU=[1070−3901−30310001−700000]A= \begin{bmatrix} 1&2&1&3&2\\ 3&4&9&0&7\\ 2&3&5&1&8\\ 2&2&8&-3&5 \end{bmatrix} \overset{r}{\sim} U= \begin{bmatrix} 1&0&7&0&-39\\ 0&1&-3&0&31\\ 0&0&0&1&-7\\ 0&0&0&0&0 \end{bmatrix}

合成與可逆

Note

令 T:V→WT:V\to W、U:W→ZU:W\to Z 皆為 linear transformations。
定義 U∘T:V→ZU\circ T:V\to Z by (U∘T)(v⃗)=U(T(v⃗))(U\circ T)(\vec{v})=U(T(\vec{v})) 稱為 UU 與 TT 的合成。

  • 因為 TT 與 UU 皆保持向量加法與純量乘法，所以 UTUT 也是 linear transformation。
  • 且 [UT]βδ=[U]γδ[T]βγ[UT]_{\beta}^{\delta}=[U]_{\gamma}^{\delta}[T]_{\beta}^{\gamma}
Note

若 T:V→VT:V\to V 為 linear operator，且 β\beta 為 VV 的 ordered basis，則

[T2]ββ=[T∘T]ββ=[T]ββ[T]ββ=([T]ββ)2[T^2]_{\beta}^{\beta} =[T\circ T]_{\beta}^{\beta} =[T]_{\beta}^{\beta}[T]_{\beta}^{\beta} =([T]_{\beta}^{\beta})^2

一般化成 [Tn]ββ=([T]ββ)n[T^n]_{\beta}^{\beta}=([T]_{\beta}^{\beta})^n

定義

令 T:V→V′T:V\to V' 為 linear transformation。若存在 function U:V′→VU:V'\to V，使得 TU=IV′且UT=IVTU=I_{V'} \quad \text{且} \quad UT=I_V

則稱 TT 為可逆，且 UU 為 TT 的反函數，記作 U=T−1U=T^{-1}。

Note

TT 為可逆   ⟺  T\iff T 為 bijective。

定理

若 T:V→V′T:V\to V' 為 linear transformation 且可逆，則 T−1:V′→VT^{-1}:V'\to V 也是 linear transformation。

範例