考研相關文章參考資料為 wjungle 大神提供的筆記
Ch5 對角化及其應用
相似
定義
令 A,B 皆為 n×n matrices。若存在 n×n 可逆矩陣 P,使得 P−1AP=B
則稱 B is similar to A,記作 A∼B。
Note
相似是一種等價關係:
-
反身性: A∼A,因為 I−1AI=A。
-
對稱性: 若 A∼B,則存在可逆矩陣 P 使得 P−1AP=B。
因此 A=PBP−1=(P−1)−1B(P−1)
所以 B∼A。
-
遞移性: 若 A∼B 且 B∼C,則存在可逆矩陣 P,Q 使得 P−1AP=B,Q−1BQ=C
因此 C=Q−1BQ=Q−1P−1APQ=(PQ)−1A(PQ)
所以 A∼C。
Note
特殊矩陣的相似關係:
- A∼O⟺A=O。
- A∼I⟺A=I。
- A∼αI⟺A=αI。
定理
相似變換/對角化下不改變的量:
令 A,B 皆為 n×n matrices。若 A∼B,則:
- tr(A)=tr(B)。
- det(A)=det(B)。
- rank(A)=rank(B)。
- nullity(A)=nullity(B)。
定理
若 A∼B,則:
- Ak∼Bk,其中 k∈N。
- cA∼cB,其中 c∈F。
- A+cI∼B+cI,其中 c∈F。
- 對任意 polynomial f(x)∈F[x],皆有 f(A)∼f(B)。
不變子空間
定義
令 T:V→V 為 linear operator,且 W⊆sV。若 T(W)⊆W
對任意 x∈W,皆有 T(x)∈W,則稱 W 為 T-invariant subspace (不變子空間)。
並可定義 T 在 W 上的局部化函數 TW:W→W,TW(x)=T(x)
Note
常見的 T-invariant subspaces:
- V 與 {0} 皆為 T-invariant。
- N(T)=ker(T) 與 R(T)=Im(T) 皆為 T-invariant。
- 若 W1,…,Wk 皆為 T-invariant
- 則 W1∩⋯∩Wk 也是 T-invariant。
- 則 W1+⋯+Wk 也是 T-invariant。
定理
令 T:V→V 為 linear operator,且 W 為 T-invariant subspace。若 dim(W)=k、dim(V)=n,取 β1={v1,…,vk} 為 W 的一組 basis,並擴充成 V 的 basis β={v1,…,vk,vk+1,…,vn}
則
[T]ββ=[A0CB],A=[TW]β1β1
定理
令 T:V→V 為 linear operator。若 W1,W2 皆為 T-invariant subspaces,且 V=W1⊕W2
取 β1 為 W1 的 basis,β2 為 W2 的 basis,令 β=β1∪β2,則
[T]ββ=[A100A2],A1=[TW1]β1β1,A2=[TW2]β2β2
Corollary
由空間直和到矩陣直和:
若 W1,…,Wk 皆為 T-invariant subspaces,且 V=W1⊕⋯⊕Wk
取各 Wi 的 basis βi,並令 β=β1∪⋯∪βk,則
[T]ββ=⎣⎢⎢⎢⎢⎡A10⋮00A2⋮0⋯⋯⋱⋯00⋮Ak⎦⎥⎥⎥⎥⎤,Ai=[TWi]βiβi
Eigenvalue 及 Eigenvector
定義
令 T:V→V 為 linear operator,λ∈F。若存在 v=0,使得 T(v)=λv
則稱 λ 為 T 的 eigenvalue (特徵值),稱 v 為 T with respect to λ 的 eigenvector (特徵向量)。
此時 (λ,v) 稱為一組 eigenpair。
若 A 為 n×n matrix,則矩陣版本為 Ax=λx,x=0
Note
-
若 Ax=λx 且 x=0,則對任意 c=0,cx 仍為 A 相對於 λ 的 eigenvector。
-
若 Ax1=λx1、Ax2=λx2,且 x1,x2=0,則 A(x1+x2)=λ(x1+x2)
- x1+x2 不一定非零。因此
eigenvectors 相加不一定仍是 eigenvector,除非 x1+x2=0。
定義
令 T:V→V 為 linear operator。取 V 的任一組 ordered basis β,定義
- tr(T)=tr([T]ββ)
- det(T)=det([T]ββ)
Note
若 β,γ 為 V 的兩組 ordered bases,[T]ββ∼[T]γγ。則
- tr([T]ββ)=tr([T]γγ)
- det([T]ββ)=det([T]γγ)
定理
令 A 為 n×n matrix,λ∈F。
則 λ∈λ(A)⟺det(A−λI)=0
定義
令 A 為 n×n matrix,定義 PA(x)=det(A−xI) 為 A 的 characteristic polynomial (特徵多項式)。
Note
若 A=[aij]n×n,則
PA(x)=det(A−xI)=∣∣∣∣∣∣∣∣∣∣a11−xa21⋮an1a12a22−x⋮an2⋯⋯⋱⋯a1na2n⋮ann−x∣∣∣∣∣∣∣∣∣∣
因此 PA(x) 為 n 次多項式,且首項為 (−1)nxn,常數項為 det(A)。
(−x)n−1 的係數為 a11+a22+⋯+ann=tr(A)
所以 PA(x)=(−1)nxn+(−1)n−1tr(A)xn−1+⋯+det(A)
特別地,當 A 為 2×2 matrix 時 PA(x)=x2−tr(A)x+det(A)
定義
令 T:V→V 為 linear operator,且 λ∈λ(T)。定義 V(λ)={v∈V∣T(v)=λv} 為 T 相對於 λ 的 eigenspace (特徵空間)。
Note
- V(λ)=ker(T−λI)
- V(λ)⊆sV
Lemma
令 T:V→V 為 linear operator,且 λ∈λ(T)。
則 V(λ) 為 T-invariant subspace。
Note
令 A 為 n×n matrix。
- λ(A)=λ(AT)
- PA(x)=det(A−xI)=det((A−xI)T)=det(AT−xI)=PAT(x)
- A 與 AT 不一定有相同的 eigenvectors
定理
令 A 為 n×n matrix,且 λ1,…,λr 為 A 的相異 eigenvalues。
(1) V(λ1),…,V(λr) 為 independent subspaces。
(2) 若 x1,…,xr 分別為 A 相對於 λ1,…,λr 的 eigenvectors,則 x1,…,xr 為 LI。
也就是說: 相異 eigenvalues 對應的 eigenvectors 一定線性獨立。
定理
令 A,B 為 n×n matrix。若 A∼B,則
- PA(x)=PB(x)
- λ(A)=λ(B)
常見證明 λ(A)=λ(B) 的方式:
- 證明
characteristic polynomial 相同: PA(x)=PB(x),也就是 det(A−xI)=det(B−xI)。
- λ(A)=λ(B) 只代表 eigenvalues 相同,不代表 eigenvectors 完全相同。
定理
令 A,B 為 n×n matrices,則 AB 與 BA 具有相同的 eigenvalues。
Note
若 Ax=λx,且 x=0,則 A2x=A(Ax)=A(λx)=λAx=λ2x
同理可得 Akx=λkx
定理
eigenvalue 表現定理:
若 Ax=λx,且 x=0,則有下列常用結果:
| matrix |
eigenvalue |
eigenvector |
| A |
λ |
x |
| AT |
λ |
不一定是 x |
| AH |
λ |
不一定是 x |
| A−1 |
λ−1 |
x |
| Ak |
λk |
x |
| αA |
αλ |
x |
| A+αI |
λ+α |
x |
| f(A) |
f(λ) |
x |
範例
令
A=⎣⎢⎢⎢⎢⎢⎢⎢⎡223456133456124456123556123466123457⎦⎥⎥⎥⎥⎥⎥⎥⎤
求 λ(A)。
對角化
定義
-
函數版本: 令 T:V→V 為 linear operator。若存在 V 的一組 basis β,使得 [T]ββ=D 為對角矩陣,則稱 T 可對角化 (diagonalizable)。
-
矩陣版本: 令 A 為 n×n matrix。若存在可逆矩陣 P,使得 P−1AP=D (相似) 為對角矩陣,則稱 A 可對角化 (diagonalizable)。
定理
令 T:V→V 為 linear operator,且 dim(V)=n。
則 T 可對角化 ⟺ T 含有 n 個 LI eigenvectors。
定理
令 A 為 n×n matrix。
則 A 可對角化 ⟺ A 含有 n 個 LI eigenvectors。
Note
- 若 A 可對角化,則
- P 的行向量為 A 的 eigenvectors
- D 的對角項為對應的 eigenvalues。
- P 不唯一,但 D 唯一 (不考慮排列順序)。
- 若 A 不具 n 個 LI eigenvectors,則稱 A 為
defective matrix,也就是 A 不可對角化。
定義
令 A 為 n×n matrix,且 λ∈λ(A)。
代數重數 (algebraic multiplicity): λ 在 PA(x) 之重根數,記作 am(λ)。
幾何重數 (geometric multiplicity): gm(λ)=dim(V(λ))。
- gm(λ)=dim(V(λ))=dim(ker(A−λI))=nullity(A−λI)=n−rank(A−λI)
定理
令 A 為 n×n matrix,且 λ∈λ(A)。
則 gm(λ)≤am(λ)
Note
令 A 為 n×n matrix,且 λ∈λ(A)。
- 1≤gm(λ)≤am(λ)≤n。
- 若 am(λ)=1,則 gm(λ)=1。
定義
令 f(x)∈Pn。若 f(x) 的所有根皆落在 F 中,則稱 f(x) split over F。
例如 f(x)=x2+1 split over C,但不 split over R。
定理
令 A 為 n×n matrix,且 PA(x) split over F。若 A 的 eigenvalues 為 λ1,λ2,…,λn,包含重複計算,則
- det(A)=λ1λ2⋯λn。
- 因 PA(x)=(λ1−x)⋯(λn−x),令 x=0,得 PA(0)=det(A)=λ1⋯λn。
- tr(A)=λ1+λ2+⋯+λn。
- 比較 PA(x) 中 (−x)n−1 的係數,一邊為 tr(A),另一邊為 λ1+⋯+λn。
此外,對任意正整數 k,有 tr(Ak)=λ1k+λ2k+⋯+λnk
範例
令
A=⎣⎢⎢⎢⎢⎡ab⋮bba⋮b⋯⋯⋱⋯bb⋮a⎦⎥⎥⎥⎥⎤n×n
則
- λ=a−b,重數為 n−1。
- λ=a+(n−1)b,重數為 1。
- PA(x)=[(a−b)−x]n−1[a+(n−1)b−x]。
- det(A)=(a−b)n−1[a+(n−1)b]。
- A 可對角化。
定理
令 T:V→V 為 linear operator,且 dim(V)=n。設 λ1,…,λr 為 T 的相異 eigenvalues。
則 T 可對角化
⟺PT(x) split over F 且 gm(λi)=am(λi),∀i=1,…,r
⟺V=V(λ1)⊕⋯⊕V(λr)
定理
令 A 為 n×n matrix。若 A 具有 n 個相異 eigenvalues,則 A 可對角化。
- 相異 eigenvalues 對應的 eigenvectors 必為 LI,所以可找到 n 個 LI eigenvectors。
定理
令 A 為 n×n matrix。若 A 可對角化,則
- A−1 可對角化,前提是 A 可逆。
- AT 可對角化。
Note
不是每個 matrix 都可對角化。判斷時常用以下三種方式:
- 找到 n 個
LI eigenvectors。
- 確認每個 eigenvalue 皆滿足 gm(λ)=am(λ)。
- 確認所有
eigenspaces 可形成整個空間的直和。
範例
定義
令 A,B 皆為 n×n matrices。若 A 與 B 具有同一組由 eigenvectors 組成的 basis,則稱 A,B 可同步對角化 (simultaneously diagonalizable)。
等價地,存在同一個可逆矩陣 P,使得 P−1AP 與 P−1BP 皆為對角矩陣。
冪等算子
定義
Note
對任意 linear operator T,有
- ker(T)⊆ker(T2)⊆ker(T3)⊆⋯。
- Im(T)⊇Im(T2)⊇Im(T3)⊇⋯。
若 T2=T,則對任意 v∈Im(T),可寫成 v=T(u),因此 T(v)=T2(u)=T(u)=v。
所以 Im(T)⊆V(1)。反之,若 v∈V(1),則 T(v)=v,故 v∈Im(T)。
因此 V(1)=Im(T)。
Note
若 T2=T,則
- ker(T)=ker(T2)。
- nullity(T)=nullity(T2)。
- rank(T)=rank(T2)。
- Im(T)=Im(T2)。
定理
令 T:V→V 為 linear operator。則下列敘述等價:
- V=ker(T)⊕Im(T)。
- V=ker(T)+Im(T)。
- ker(T)∩Im(T)={0}。
也就是說,當上述條件成立時,ker(T) 與 Im(T) 形成 V 的 direct sum decomposition。
定理
令 T:V→V 為 idempotent operator,即 T2=T。則 V=ker(T)⊕Im(T)
證明
先證 V=ker(T)+Im(T)。任取 v∈V,可寫成 v=(v−T(v))+T(v)
其中 T(v)∈Im(T)
且 T(v−T(v))=T(v)−T2(v)=0,故 v−T(v)∈ker(T)。
得到 V=ker(T)⊕Im(T) (by 前一個定理)。
定理
令 T:V→V 為 linear operator,且 T2=T。則
- T 的 eigenvalues 只可能為 0 或 1。
- 由 T2=T 得 λ2v=T2(v)=T(v)=λv,故 λ2=λ,即 λ=0 或 1。
- V(0)=ker(T),V(1)=Im(T)。
- V(0)=ker(T−0I)=ker(T)。
- V(1)=Im(T) 前面證明過。
- T 可對角化,且存在 V 的一組 basis β,使 [T]β=D=[Ir000],r=rank(T)。
Note
令 A 為 n×n matrix,且 A2=A。定義 T(x)=Ax,則 T2=T,所以
- A 的 eigenvalues 只可能為 0 或 1。
- V(0)=ker(A),V(1)=CS(A)。
- A 可對角化,且 A∼D=[Ir000],其中 r=rank(A)。
- tr(A)=tr(D)=r=rank(A)。
對角化的應用
Note
若存在可逆矩陣 P 使
P−1AP=D=⎣⎢⎢⎢⎢⎡λ10⋮00λ2⋮0⋯⋯⋱⋯00⋮λn⎦⎥⎥⎥⎥⎤
則 A=PDP−1。因此
Ak=PDkP−1=P⎣⎢⎢⎢⎢⎡λ1k0⋮00λ2k⋮0⋯⋯⋱⋯00⋮λnk⎦⎥⎥⎥⎥⎤P−1
更一般地,若 f(x) 為 polynomial,則
f(A)=Pf(D)P−1=P⎣⎢⎢⎢⎢⎡f(λ1)0⋮00f(λ2)⋮0⋯⋯⋱⋯00⋮f(λn)⎦⎥⎥⎥⎥⎤P−1
範例
Markov chain
定義
-
stochastic process (隨機過程): 隨時間變化的隨機系統。
-
Markov process: 下一步狀態只與目前狀態有關,與更早以前的狀態無關。
-
Markov matrix/stochastic matrix: entries 皆 ≥0,且每一欄和為 1 的矩陣,也稱 transition matrix。
-
probability vector (機率向量): entries 皆 ≥0,且 entries 總和為 1 的向量。
Note
-
若 x0 為 initial probability vector,則 xn=Axn−1=Anx0
- xn 為第 n 個 generation 的 probability vector。
-
若 probability vector x 滿足 Ax=x,則稱 x 為 steady-state vector,也就是 x∈ker(A−I)。
-
若 A 為 transition matrix,且存在 k∈Z+ 使 Ak 中每一項皆為正,則稱 A 為 regular transition matrix。
定理
令 A 為 n×n regular transition matrix。則存在唯一的 steady-state vector x,使得
k→∞limAk=[xx⋯x]
即長期狀態會趨近同一個 steady-state vector,與初始狀態無關。
Note
若 x0 為 initial probability vector,則
k→∞limxk=k→∞limAkx0=[xx⋯x]x0=x