考研相關文章參考資料為 wjungle 大神提供的筆記

Ch5 對角化及其應用

相似

定義

令 A,BA,B 皆為 n×nn\times n matrices。若存在 n×nn\times n 可逆矩陣 PP,使得 P−1AP=BP^{-1}AP=B
則稱 BB is similar to AA,記作 A∼BA\sim B。

Note

相似是一種等價關係:

  • 反身性: A∼AA\sim A,因為 I−1AI=AI^{-1}AI=A。

  • 對稱性: 若 A∼BA\sim B,則存在可逆矩陣 PP 使得 P−1AP=BP^{-1}AP=B。
    因此 A=PBP−1=(P−1)−1B(P−1)A=PBP^{-1}=(P^{-1})^{-1}B(P^{-1})
    所以 B∼AB\sim A。

  • 遞移性: 若 A∼BA\sim B 且 B∼CB\sim C,則存在可逆矩陣 P,QP,Q 使得 P−1AP=B,Q−1BQ=CP^{-1}AP=B, Q^{-1}BQ=C
    因此 C=Q−1BQ=Q−1P−1APQ=(PQ)−1A(PQ)C=Q^{-1}BQ=Q^{-1}P^{-1}APQ=(PQ)^{-1}A(PQ)
    所以 A∼CA\sim C。

Note

特殊矩陣的相似關係:

  • A∼O  ⟺  A=OA\sim O \iff A=O。
  • A∼I  ⟺  A=IA\sim I \iff A=I。
  • A∼αI  ⟺  A=αIA\sim \alpha I \iff A=\alpha I。
定理

相似變換/對角化下不改變的量:
令 A,BA,B 皆為 n×nn\times n matrices。若 A∼BA\sim B,則:

  • tr⁡(A)=tr⁡(B)\operatorname{tr}(A)=\operatorname{tr}(B)。
  • det⁡(A)=det⁡(B)\det(A)=\det(B)。
  • rank⁡(A)=rank⁡(B)\operatorname{rank}(A)=\operatorname{rank}(B)。
  • nullity⁡(A)=nullity⁡(B)\operatorname{nullity}(A)=\operatorname{nullity}(B)。
定理

若 A∼BA\sim B,則:

  • Ak∼BkA^k\sim B^k,其中 k∈Nk\in\mathbb{N}。
  • cA∼cBcA\sim cB,其中 c∈Fc\in F。
  • A+cI∼B+cIA+cI\sim B+cI,其中 c∈Fc\in F。
  • 對任意 polynomial f(x)∈F[x]f(x)\in F[x],皆有 f(A)∼f(B)f(A)\sim f(B)。

不變子空間

定義

令 T:V→VT:V\to V 為 linear operator,且 W⊆sVW\overset{s}{\subseteq}V。若 T(W)⊆WT(W)\subseteq W

對任意 x⃗∈W\vec{x}\in W,皆有 T(x⃗)∈WT(\vec{x})\in W,則稱 WW 為 TT-invariant subspace (不變子空間)。

並可定義 TT 在 WW 上的局部化函數 TW:W→W,TW(x⃗)=T(x⃗)T_W:W\to W, T_W(\vec{x})=T(\vec{x})

  • 讓值域可以從 VV 縮小到 WW。
Note

常見的 TT-invariant subspaces:

  • VV 與 {0⃗}\{\vec{0}\} 皆為 TT-invariant。
  • N(T)=ker⁡(T)N(T)=\ker(T) 與 R(T)=Im⁡(T)R(T)=\operatorname{Im}(T) 皆為 TT-invariant。
  • 若 W1,…,WkW_1,\dots,W_k 皆為 TT-invariant
    • 則 W1∩⋯∩WkW_1\cap\cdots\cap W_k 也是 TT-invariant。
    • 則 W1+⋯+WkW_1+\cdots+W_k 也是 TT-invariant。
定理

令 T:V→VT:V\to V 為 linear operator,且 WW 為 TT-invariant subspace。若 dim⁡(W)=k\dim(W)=k、dim⁡(V)=n\dim(V)=n,取 β1={v⃗1,…,v⃗k}\beta_1=\{\vec{v}_1,\dots,\vec{v}_k\} 為 WW 的一組 basis,並擴充成 VV 的 basis β={v⃗1,…,v⃗k,v⃗k+1,…,v⃗n}\beta=\{\vec{v}_1,\dots,\vec{v}_k,\vec{v}_{k+1},\dots,\vec{v}_n\}

則

[T]ββ=[AC0B],A=[TW]β1β1[T]_{\beta}^{\beta}=\begin{bmatrix}A&C\\0&B\end{bmatrix}, \quad A=[T_W]_{\beta_1}^{\beta_1}

定理

令 T:V→VT:V\to V 為 linear operator。若 W1,W2W_1,W_2 皆為 TT-invariant subspaces,且 V=W1⊕W2V=W_1\oplus W_2

取 β1\beta_1 為 W1W_1 的 basis,β2\beta_2 為 W2W_2 的 basis,令 β=β1∪β2\beta=\beta_1\cup\beta_2,則

[T]ββ=[A100A2],A1=[TW1]β1β1,A2=[TW2]β2β2[T]_{\beta}^{\beta}=\begin{bmatrix}A_1&0\\0&A_2\end{bmatrix}, \quad A_1=[T_{W_1}]_{\beta_1}^{\beta_1}, \quad A_2=[T_{W_2}]_{\beta_2}^{\beta_2}

Corollary

由空間直和到矩陣直和:
若 W1,…,WkW_1,\dots,W_k 皆為 TT-invariant subspaces,且 V=W1⊕⋯⊕WkV=W_1\oplus\cdots\oplus W_k

取各 WiW_i 的 basis βi\beta_i,並令 β=β1∪⋯∪βk\beta=\beta_1\cup\cdots\cup\beta_k,則

[T]ββ=[A10⋯00A2⋯0⋮⋮⋱⋮00⋯Ak],Ai=[TWi]βiβi[T]_{\beta}^{\beta}=\begin{bmatrix} A_1&0&\cdots&0\\ 0&A_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&A_k \end{bmatrix}, \quad A_i=[T_{W_i}]_{\beta_i}^{\beta_i}

Eigenvalue 及 Eigenvector

定義

令 T:V→VT:V\to V 為 linear operator,λ∈F\lambda\in F。若存在 v⃗≠0⃗\vec{v}\ne\vec{0},使得 T(v⃗)=λv⃗T(\vec{v})=\lambda\vec{v}

則稱 λ\lambda 為 TT 的 eigenvalue (特徵值),稱 v⃗\vec{v} 為 TT with respect to λ\lambda 的 eigenvector (特徵向量)。

此時 (λ,v⃗)(\lambda,\vec{v}) 稱為一組 eigenpair。

若 AA 為 n×nn\times n matrix,則矩陣版本為 Ax⃗=λx⃗,x⃗≠0⃗ A\vec{x}=\lambda\vec{x},\qquad \vec{x}\ne\vec{0}

Note
  • 若 Ax⃗=λx⃗A\vec{x}=\lambda\vec{x} 且 x⃗≠0⃗\vec{x}\ne\vec{0},則對任意 c≠0c\ne0,cx⃗c\vec{x} 仍為 AA 相對於 λ\lambda 的 eigenvector。

  • 若 Ax⃗1=λx⃗1A\vec{x}_1=\lambda\vec{x}_1、Ax⃗2=λx⃗2A\vec{x}_2=\lambda\vec{x}_2,且 x⃗1,x⃗2≠0⃗\vec{x}_1,\vec{x}_2\ne\vec{0},則 A(x⃗1+x⃗2)=λ(x⃗1+x⃗2)A(\vec{x}_1+\vec{x}_2)=\lambda(\vec{x}_1+\vec{x}_2)

    • x⃗1+x⃗2\vec{x}_1+\vec{x}_2 不一定非零。因此 eigenvectors 相加不一定仍是 eigenvector,除非 x⃗1+x⃗2≠0⃗\vec{x}_1+\vec{x}_2\ne\vec{0}。

定義

令 T:V→VT:V\to V 為 linear operator。取 VV 的任一組 ordered basis β\beta,定義

  • tr⁡(T)=tr⁡([T]ββ)\operatorname{tr}(T)=\operatorname{tr}([T]_{\beta}^{\beta})
  • det⁡(T)=det⁡([T]ββ)\det(T)=\det([T]_{\beta}^{\beta})
Note

若 β,γ\beta,\gamma 為 VV 的兩組 ordered bases,[T]ββ∼[T]γγ[T]_{\beta}^{\beta}\sim [T]_{\gamma}^{\gamma}。則

  • tr⁡([T]ββ)=tr⁡([T]γγ)\operatorname{tr}([T]_{\beta}^{\beta})=\operatorname{tr}([T]_{\gamma}^{\gamma})
  • det⁡([T]ββ)=det⁡([T]γγ)\det([T]_{\beta}^{\beta})=\det([T]_{\gamma}^{\gamma})

定理

令 AA 為 n×nn\times n matrix,λ∈F\lambda\in F。

則 λ∈λ(A)⟺det⁡(A−λI)=0\lambda\in\lambda(A)\Longleftrightarrow \det(A-\lambda I)=0

定義

令 AA 為 n×nn\times n matrix,定義 PA(x)=det⁡(A−xI)P_A(x)=\det(A-xI) 為 AA 的 characteristic polynomial (特徵多項式)。

Note

若 A=[aij]n×nA=[a_{ij}]_{n\times n},則

PA(x)=det⁡(A−xI)=∣a11−xa12⋯a1na21a22−x⋯a2n⋮⋮⋱⋮an1an2⋯ann−x∣P_A(x)=\det(A-xI) =\begin{vmatrix} a_{11}-x&a_{12}&\cdots&a_{1n}\\ a_{21}&a_{22}-x&\cdots&a_{2n}\\ \vdots&\vdots&\ddots&\vdots\\ a_{n1}&a_{n2}&\cdots&a_{nn}-x \end{vmatrix}

因此 PA(x)P_A(x) 為 nn 次多項式,且首項為 (−1)nxn(-1)^nx^n,常數項為 det⁡(A)\det(A)。

(−x)n−1(-x)^{n-1} 的係數為 a11+a22+⋯+ann=tr⁡(A)a_{11}+a_{22}+\cdots+a_{nn}=\operatorname{tr}(A)

所以 PA(x)=(−1)nxn+(−1)n−1tr⁡(A)xn−1+⋯+det⁡(A)P_A(x)=(-1)^nx^n+(-1)^{n-1}\operatorname{tr}(A)x^{n-1}+\cdots+\det(A)

特別地,當 AA 為 2×22\times2 matrix 時 PA(x)=x2−tr⁡(A)x+det⁡(A)P_A(x)=x^2-\operatorname{tr}(A)x+\det(A)


定義

令 T:V→VT:V\to V 為 linear operator,且 λ∈λ(T)\lambda\in\lambda(T)。定義 V(λ)={v⃗∈V∣T(v⃗)=λv⃗}V(\lambda)=\{\vec{v}\in V\mid T(\vec{v})=\lambda\vec{v}\} 為 TT 相對於 λ\lambda 的 eigenspace (特徵空間)。

Note
  • V(λ)=ker⁡(T−λI)V(\lambda)=\ker(T-\lambda I)
  • V(λ)⊆sVV(\lambda)\overset{s}{\subseteq}V
Lemma

令 T:V→VT:V\to V 為 linear operator,且 λ∈λ(T)\lambda\in\lambda(T)。

則 V(λ)V(\lambda) 為 TT-invariant subspace。

Note

令 AA 為 n×nn\times n matrix。

  • λ(A)=λ(AT)\lambda(A)=\lambda(A^T)
    • PA(x)=det⁡(A−xI)=det⁡((A−xI)T)=det⁡(AT−xI)=PAT(x)P_A(x)=\det(A-xI)=\det((A-xI)^T)=\det(A^T-xI)=P_{A^T}(x)
  • AA 與 ATA^T 不一定有相同的 eigenvectors

定理

令 AA 為 n×nn\times n matrix,且 λ1,…,λr\lambda_1,\dots,\lambda_r 為 AA 的相異 eigenvalues。

(1) V(λ1),…,V(λr)V(\lambda_1),\dots,V(\lambda_r) 為 independent subspaces。

(2) 若 x⃗1,…,x⃗r\vec{x}_1,\dots,\vec{x}_r 分別為 AA 相對於 λ1,…,λr\lambda_1,\dots,\lambda_r 的 eigenvectors,則 x⃗1,…,x⃗r\vec{x}_1,\dots,\vec{x}_r 為 LI。

也就是說: 相異 eigenvalues 對應的 eigenvectors 一定線性獨立。

定理

令 A,BA,B 為 n×nn\times n matrix。若 A∼BA\sim B,則

  • PA(x)=PB(x)P_A(x)=P_B(x)
  • λ(A)=λ(B)\lambda(A)=\lambda(B)

常見證明 λ(A)=λ(B)\lambda(A)=\lambda(B) 的方式:

  • 證明 characteristic polynomial 相同: PA(x)=PB(x)P_A(x)=P_B(x),也就是 det⁡(A−xI)=det⁡(B−xI)\det(A-xI)=\det(B-xI)。
  • λ(A)=λ(B)\lambda(A)=\lambda(B) 只代表 eigenvalues 相同,不代表 eigenvectors 完全相同。
定理

令 A,BA,B 為 n×nn\times n matrices,則 ABAB 與 BABA 具有相同的 eigenvalues。


Note

若 Ax⃗=λx⃗A\vec{x}=\lambda\vec{x},且 x⃗≠0⃗\vec{x}\ne\vec{0},則 A2x⃗=A(Ax⃗)=A(λx⃗)=λAx⃗=λ2x⃗A^2\vec{x}=A(A\vec{x})=A(\lambda\vec{x})=\lambda A\vec{x}=\lambda^2\vec{x}

同理可得 Akx⃗=λkx⃗A^k\vec{x}=\lambda^k\vec{x}

定理

eigenvalue 表現定理:

若 Ax⃗=λx⃗A\vec{x}=\lambda\vec{x},且 x⃗≠0⃗\vec{x}\ne\vec{0},則有下列常用結果:

matrix eigenvalue eigenvector
AA λ\lambda x⃗\vec{x}
ATA^T λ\lambda 不一定是 x⃗\vec{x}
AHA^H λ‾\overline{\lambda} 不一定是 x⃗\vec{x}
A−1A^{-1} λ−1\lambda^{-1} x⃗\vec{x}
AkA^k λk\lambda^k x⃗\vec{x}
αA\alpha A αλ\alpha\lambda x⃗\vec{x}
A+αIA+\alpha I λ+α\lambda+\alpha x⃗\vec{x}
f(A)f(A) f(λ)f(\lambda) x⃗\vec{x}
範例

令

A=[211111232222334333444544555565666667]A=\begin{bmatrix} 2&1&1&1&1&1\\ 2&3&2&2&2&2\\ 3&3&4&3&3&3\\ 4&4&4&5&4&4\\ 5&5&5&5&6&5\\ 6&6&6&6&6&7 \end{bmatrix}

求 λ(A)\lambda(A)。

對角化

定義
  • 函數版本: 令 T:V→VT:V\to V 為 linear operator。若存在 VV 的一組 basis β\beta,使得 [T]ββ=D[T]_{\beta}^{\beta}=D 為對角矩陣,則稱 TT 可對角化 (diagonalizable)。

  • 矩陣版本: 令 AA 為 n×nn\times n matrix。若存在可逆矩陣 PP,使得 P−1AP=DP^{-1}AP=D (相似) 為對角矩陣,則稱 AA 可對角化 (diagonalizable)。

定理

令 T:V→VT:V\to V 為 linear operator,且 dim⁡(V)=n\operatorname{dim}(V)=n。

則 TT 可對角化 ⟺\Longleftrightarrow TT 含有 nn 個 LI eigenvectors。

定理

令 AA 為 n×nn\times n matrix。

則 AA 可對角化 ⟺\Longleftrightarrow AA 含有 nn 個 LI eigenvectors。

Note
  • 若 AA 可對角化,則
    • PP 的行向量為 AA 的 eigenvectors
    • DD 的對角項為對應的 eigenvalues。
  • PP 不唯一,但 DD 唯一 (不考慮排列順序)。
  • 若 AA 不具 nn 個 LI eigenvectors,則稱 AA 為 defective matrix,也就是 AA 不可對角化。

定義

令 AA 為 n×nn\times n matrix,且 λ∈λ(A)\lambda\in\lambda(A)。

  • 代數重數 (algebraic multiplicity): λ\lambda 在 PA(x)P_A(x) 之重根數,記作 am⁡(λ)\operatorname{am}(\lambda)。
  • 幾何重數 (geometric multiplicity): gm⁡(λ)=dim⁡(V(λ))\operatorname{gm}(\lambda)=\operatorname{dim}(V(\lambda))。
    • gm⁡(λ)=dim⁡(V(λ))=dim⁡(ker⁡(A−λI))=nullity⁡(A−λI)=n−rank⁡(A−λI)\operatorname{gm}(\lambda)=\operatorname{dim}(V(\lambda))=\operatorname{dim}(\operatorname{ker}(A-\lambda I))=\operatorname{nullity}(A-\lambda I)=n-\operatorname{rank}(A-\lambda I)
定理

令 AA 為 n×nn\times n matrix,且 λ∈λ(A)\lambda\in\lambda(A)。
則 gm⁡(λ)≤am⁡(λ)\operatorname{gm}(\lambda)\le \operatorname{am}(\lambda)

Note

令 AA 為 n×nn\times n matrix,且 λ∈λ(A)\lambda\in\lambda(A)。

  • 1≤gm⁡(λ)≤am⁡(λ)≤n1\le \operatorname{gm}(\lambda)\le \operatorname{am}(\lambda)\le n。
  • 若 am⁡(λ)=1\operatorname{am}(\lambda)=1,則 gm⁡(λ)=1\operatorname{gm}(\lambda)=1。

定義

令 f(x)∈Pnf(x)\in P_n。若 f(x)f(x) 的所有根皆落在 FF 中,則稱 f(x)f(x) split over FF。

例如 f(x)=x2+1f(x)=x^2+1 split over C\mathbb{C},但不 split over R\mathbb{R}。

定理

令 AA 為 n×nn\times n matrix,且 PA(x)P_A(x) split over FF。若 AA 的 eigenvalues 為 λ1,λ2,…,λn\lambda_1,\lambda_2,\dots,\lambda_n,包含重複計算,則

  • det⁡(A)=λ1λ2⋯λn\det(A)=\lambda_1\lambda_2\cdots\lambda_n。
    • 因 PA(x)=(λ1−x)⋯(λn−x)P_A(x)=(\lambda_1-x)\cdots(\lambda_n-x),令 x=0x=0,得 PA(0)=det⁡(A)=λ1⋯λnP_A(0)=\det(A)=\lambda_1\cdots\lambda_n。
  • tr⁡(A)=λ1+λ2+⋯+λn\operatorname{tr}(A)=\lambda_1+\lambda_2+\cdots+\lambda_n。
    • 比較 PA(x)P_A(x) 中 (−x)n−1(-x)^{n-1} 的係數,一邊為 tr⁡(A)\operatorname{tr}(A),另一邊為 λ1+⋯+λn\lambda_1+\cdots+\lambda_n。

此外,對任意正整數 kk,有 tr⁡(Ak)=λ1k+λ2k+⋯+λnk\operatorname{tr}(A^k)=\lambda_1^k+\lambda_2^k+\cdots+\lambda_n^k

範例

令

A=[ab⋯bba⋯b⋮⋮⋱⋮bb⋯a]n×nA=\begin{bmatrix} a&b&\cdots&b\\ b&a&\cdots&b\\ \vdots&\vdots&\ddots&\vdots\\ b&b&\cdots&a \end{bmatrix}_{n\times n}

則

  • λ=a−b\lambda=a-b,重數為 n−1n-1。
  • λ=a+(n−1)b\lambda=a+(n-1)b,重數為 11。
  • PA(x)=[(a−b)−x]n−1[a+(n−1)b−x]P_A(x)=[(a-b)-x]^{n-1}[a+(n-1)b-x]。
  • det⁡(A)=(a−b)n−1[a+(n−1)b]\det(A)=(a-b)^{n-1}[a+(n-1)b]。
  • AA 可對角化。

定理

令 T:V→VT:V\to V 為 linear operator,且 dim⁡(V)=n\operatorname{dim}(V)=n。設 λ1,…,λr\lambda_1,\dots,\lambda_r 為 TT 的相異 eigenvalues。

則 TT 可對角化
⟺PT(x) split over F 且 gm⁡(λi)=am⁡(λi),∀i=1,…,r\Longleftrightarrow P_T(x) \text{ split over } F \text{ 且 } \operatorname{gm}(\lambda_i)=\operatorname{am}(\lambda_i), \forall i=1,\dots,r
⟺V=V(λ1)⊕⋯⊕V(λr)\Longleftrightarrow V=V(\lambda_1)\oplus\cdots\oplus V(\lambda_r)

定理

令 AA 為 n×nn\times n matrix。若 AA 具有 nn 個相異 eigenvalues,則 AA 可對角化。

  • 相異 eigenvalues 對應的 eigenvectors 必為 LI,所以可找到 nn 個 LI eigenvectors。
定理

令 AA 為 n×nn\times n matrix。若 AA 可對角化,則

  • A−1A^{-1} 可對角化,前提是 AA 可逆。
  • ATA^T 可對角化。
Note

不是每個 matrix 都可對角化。判斷時常用以下三種方式:

  • 找到 nn 個 LI eigenvectors。
  • 確認每個 eigenvalue 皆滿足 gm⁡(λ)=am⁡(λ)\operatorname{gm}(\lambda)=\operatorname{am}(\lambda)。
  • 確認所有 eigenspaces 可形成整個空間的直和。
範例
定義

令 A,BA,B 皆為 n×nn\times n matrices。若 AA 與 BB 具有同一組由 eigenvectors 組成的 basis,則稱 A,BA,B 可同步對角化 (simultaneously diagonalizable)。

等價地,存在同一個可逆矩陣 PP,使得 P−1APP^{-1}AP 與 P−1BPP^{-1}BP 皆為對角矩陣。

冪等算子

定義
  • 令 T:V→VT:V\to V 為 linear operator。若 T2=TT^2=T,則稱 TT 為 idempotent operator。

  • 令 AA 為 n×nn\times n matrix。若 A2=AA^2=A,則稱 AA 為 idempotent matrix。

Note

對任意 linear operator TT,有

  • ker⁡(T)⊆ker⁡(T2)⊆ker⁡(T3)⊆⋯\ker(T)\subseteq \ker(T^2)\subseteq \ker(T^3)\subseteq \cdots。
  • Im⁡(T)⊇Im⁡(T2)⊇Im⁡(T3)⊇⋯\operatorname{Im}(T)\supseteq \operatorname{Im}(T^2)\supseteq \operatorname{Im}(T^3)\supseteq \cdots。

若 T2=TT^2=T,則對任意 v⃗∈Im⁡(T)\vec{v}\in \operatorname{Im}(T),可寫成 v⃗=T(u⃗)\vec{v}=T(\vec{u}),因此 T(v⃗)=T2(u⃗)=T(u⃗)=v⃗T(\vec{v})=T^2(\vec{u})=T(\vec{u})=\vec{v}。
所以 Im⁡(T)⊆V(1)\operatorname{Im}(T)\subseteq V(1)。反之,若 v⃗∈V(1)\vec{v}\in V(1),則 T(v⃗)=v⃗T(\vec{v})=\vec{v},故 v⃗∈Im⁡(T)\vec{v}\in \operatorname{Im}(T)。
因此 V(1)=Im⁡(T)V(1)=\operatorname{Im}(T)。

Note

若 T2=TT^2=T,則

  • ker⁡(T)=ker⁡(T2)\ker(T)=\ker(T^2)。
  • nullity⁡(T)=nullity⁡(T2)\operatorname{nullity}(T)=\operatorname{nullity}(T^2)。
  • rank⁡(T)=rank⁡(T2)\operatorname{rank}(T)=\operatorname{rank}(T^2)。
  • Im⁡(T)=Im⁡(T2)\operatorname{Im}(T)=\operatorname{Im}(T^2)。

定理

令 T:V→VT:V\to V 為 linear operator。則下列敘述等價:

  • V=ker⁡(T)⊕Im⁡(T)V=\ker(T)\oplus \operatorname{Im}(T)。
  • V=ker⁡(T)+Im⁡(T)V=\ker(T)+\operatorname{Im}(T)。
  • ker⁡(T)∩Im⁡(T)={0⃗}\ker(T)\cap \operatorname{Im}(T)=\{\vec{0}\}。

也就是說,當上述條件成立時,ker⁡(T)\ker(T) 與 Im⁡(T)\operatorname{Im}(T) 形成 VV 的 direct sum decomposition。

定理

令 T:V→VT:V\to V 為 idempotent operator,即 T2=TT^2=T。則 V=ker⁡(T)⊕Im⁡(T)V=\ker(T)\oplus \operatorname{Im}(T)

證明

先證 V=ker⁡(T)+Im⁡(T)V=\ker(T)+\operatorname{Im}(T)。任取 v⃗∈V\vec{v}\in V,可寫成 v⃗=(v⃗−T(v⃗))+T(v⃗)\vec{v}=(\vec{v}-T(\vec{v}))+T(\vec{v})

其中 T(v⃗)∈Im⁡(T)T(\vec{v})\in \operatorname{Im}(T)

且 T(v⃗−T(v⃗))=T(v⃗)−T2(v⃗)=0⃗T(\vec{v}-T(\vec{v}))=T(\vec{v})-T^2(\vec{v})=\vec{0},故 v⃗−T(v⃗)∈ker⁡(T)\vec{v}-T(\vec{v})\in \ker(T)。

得到 V=ker⁡(T)⊕Im⁡(T)V=\ker(T)\oplus \operatorname{Im}(T) (by 前一個定理)。

定理

令 T:V→VT:V\to V 為 linear operator,且 T2=TT^2=T。則

  • TT 的 eigenvalues 只可能為 00 或 11。
    • 由 T2=TT^2=T 得 λ2v⃗=T2(v⃗)=T(v⃗)=λv⃗\lambda^2\vec{v}=T^2(\vec{v})=T(\vec{v})=\lambda\vec{v},故 λ2=λ\lambda^2=\lambda,即 λ=0\lambda=0 或 11。
  • V(0)=ker⁡(T)V(0)=\ker(T),V(1)=Im⁡(T)V(1)=\operatorname{Im}(T)。
    • V(0)=ker⁡(T−0I)=ker⁡(T)V(0)=\ker(T-0I)=\ker(T)。
    • V(1)=Im⁡(T)V(1)=\operatorname{Im}(T) 前面證明過。
  • TT 可對角化,且存在 VV 的一組 basis β\beta,使 [T]β=D=[Ir000],r=rank⁡(T) [T]_{\beta}=D=\begin{bmatrix} I_r&0\\ 0&0 \end{bmatrix},\quad r=\operatorname{rank}(T)。
Note

令 AA 為 n×nn\times n matrix,且 A2=AA^2=A。定義 T(x⃗)=Ax⃗T(\vec{x})=A\vec{x},則 T2=TT^2=T,所以

  • AA 的 eigenvalues 只可能為 00 或 11。
  • V(0)=ker⁡(A)V(0)=\ker(A),V(1)=CS⁡(A)V(1)=\operatorname{CS}(A)。
  • AA 可對角化,且 A∼D=[Ir000]A\sim D=\begin{bmatrix} I_r&0\\ 0&0 \end{bmatrix},其中 r=rank⁡(A)r=\operatorname{rank}(A)。
  • tr⁡(A)=tr⁡(D)=r=rank⁡(A)\operatorname{tr}(A)=\operatorname{tr}(D)=r=\operatorname{rank}(A)。

對角化的應用

Note

若存在可逆矩陣 PP 使

P−1AP=D=[λ10⋯00λ2⋯0⋮⋮⋱⋮00⋯λn]P^{-1}AP=D=\begin{bmatrix} \lambda_1&0&\cdots&0\\ 0&\lambda_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&\lambda_n \end{bmatrix}

則 A=PDP−1A=PDP^{-1}。因此

Ak=PDkP−1=P[λ1k0⋯00λ2k⋯0⋮⋮⋱⋮00⋯λnk]P−1A^k=PD^kP^{-1} =P\begin{bmatrix} \lambda_1^k&0&\cdots&0\\ 0&\lambda_2^k&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&\lambda_n^k \end{bmatrix}P^{-1}

更一般地,若 f(x)f(x) 為 polynomial,則

f(A)=Pf(D)P−1=P[f(λ1)0⋯00f(λ2)⋯0⋮⋮⋱⋮00⋯f(λn)]P−1f(A)=Pf(D)P^{-1} =P\begin{bmatrix} f(\lambda_1)&0&\cdots&0\\ 0&f(\lambda_2)&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&f(\lambda_n) \end{bmatrix}P^{-1}

範例

Markov chain

定義
  • stochastic process (隨機過程): 隨時間變化的隨機系統。

  • Markov process: 下一步狀態只與目前狀態有關,與更早以前的狀態無關。

  • Markov matrix/stochastic matrix: entries 皆 ≥0\ge 0,且每一欄和為 11 的矩陣,也稱 transition matrix。

  • probability vector (機率向量): entries 皆 ≥0\ge 0,且 entries 總和為 11 的向量。

Note
  • 若 x⃗0\vec{x}_0 為 initial probability vector,則 x⃗n=Ax⃗n−1=Anx⃗0\vec{x}_n=A\vec{x}_{n-1}=A^n\vec{x}_0

    • x⃗n\vec{x}_n 為第 nn 個 generation 的 probability vector。
  • 若 probability vector x⃗\vec{x} 滿足 Ax⃗=x⃗A\vec{x}=\vec{x},則稱 x⃗\vec{x} 為 steady-state vector,也就是 x⃗∈ker⁡(A−I)\vec{x}\in\ker(A-I)。

  • 若 AA 為 transition matrix,且存在 k∈Z+k\in\mathbb{Z}^+ 使 AkA^k 中每一項皆為正,則稱 AA 為 regular transition matrix。

定理

令 AA 為 n×nn\times n regular transition matrix。則存在唯一的 steady-state vector x⃗\vec{x},使得

lim⁡k→∞Ak=[x⃗x⃗⋯x⃗]\lim_{k\to\infty}A^k= \begin{bmatrix} \vec{x}&\vec{x}&\cdots&\vec{x} \end{bmatrix}

即長期狀態會趨近同一個 steady-state vector,與初始狀態無關。

Note

若 x⃗0\vec{x}_0 為 initial probability vector,則

lim⁡k→∞x⃗k=lim⁡k→∞Akx⃗0=[x⃗x⃗⋯x⃗]x⃗0=x⃗\lim_{k\to\infty}\vec{x}_k =\lim_{k\to\infty}A^k\vec{x}_0 =\begin{bmatrix} \vec{x}&\vec{x}&\cdots&\vec{x} \end{bmatrix}\vec{x}_0 =\vec{x}