考研相關文章參考資料為 wjungle 大神提供的筆記

Ch5 對角化及其應用

相似

定義

A,BA,B 皆為 n×nn\times n matrices。若存在 n×nn\times n 可逆矩陣 PP,使得 P1AP=BP^{-1}AP=B
則稱 BB is similar to AA,記作 ABA\sim B

Note

相似是一種等價關係:

  • 反身性: AAA\sim A,因為 I1AI=AI^{-1}AI=A

  • 對稱性: 若 ABA\sim B,則存在可逆矩陣 PP 使得 P1AP=BP^{-1}AP=B
    因此 A=PBP1=(P1)1B(P1)A=PBP^{-1}=(P^{-1})^{-1}B(P^{-1})
    所以 BAB\sim A

  • 遞移性: 若 ABA\sim BBCB\sim C,則存在可逆矩陣 P,QP,Q 使得 P1AP=B,Q1BQ=CP^{-1}AP=B, Q^{-1}BQ=C
    因此 C=Q1BQ=Q1P1APQ=(PQ)1A(PQ)C=Q^{-1}BQ=Q^{-1}P^{-1}APQ=(PQ)^{-1}A(PQ)
    所以 ACA\sim C

Note

特殊矩陣的相似關係:

  • AO    A=OA\sim O \iff A=O
  • AI    A=IA\sim I \iff A=I
  • AαI    A=αIA\sim \alpha I \iff A=\alpha I
定理

相似變換/對角化下不改變的量:
A,BA,B 皆為 n×nn\times n matrices。若 ABA\sim B,則:

  • tr(A)=tr(B)\operatorname{tr}(A)=\operatorname{tr}(B)
  • det(A)=det(B)\det(A)=\det(B)
  • rank(A)=rank(B)\operatorname{rank}(A)=\operatorname{rank}(B)
  • nullity(A)=nullity(B)\operatorname{nullity}(A)=\operatorname{nullity}(B)
定理

ABA\sim B,則:

  • AkBkA^k\sim B^k,其中 kNk\in\mathbb{N}
  • cAcBcA\sim cB,其中 cFc\in F
  • A+cIB+cIA+cI\sim B+cI,其中 cFc\in F
  • 對任意 polynomial f(x)F[x]f(x)\in F[x],皆有 f(A)f(B)f(A)\sim f(B)

不變子空間

定義

T:VVT:V\to V 為 linear operator,且 WsVW\overset{s}{\subseteq}V。若 T(W)WT(W)\subseteq W

對任意 xW\vec{x}\in W,皆有 T(x)WT(\vec{x})\in W,則稱 WWTT-invariant subspace (不變子空間)。

並可定義 TTWW 上的局部化函數 TW:WW,TW(x)=T(x)T_W:W\to W, T_W(\vec{x})=T(\vec{x})

  • 讓值域可以從 VV 縮小到 WW
Note

常見的 TT-invariant subspaces:

  • VV{0}\{\vec{0}\} 皆為 TT-invariant。
  • N(T)=ker(T)N(T)=\ker(T)R(T)=Im(T)R(T)=\operatorname{Im}(T) 皆為 TT-invariant。
  • W1,,WkW_1,\dots,W_k 皆為 TT-invariant
    • W1WkW_1\cap\cdots\cap W_k 也是 TT-invariant。
    • W1++WkW_1+\cdots+W_k 也是 TT-invariant。
定理

T:VVT:V\to V 為 linear operator,且 WWTT-invariant subspace。若 dim(W)=k\dim(W)=kdim(V)=n\dim(V)=n,取 β1={v1,,vk}\beta_1=\{\vec{v}_1,\dots,\vec{v}_k\}WW 的一組 basis,並擴充成 VV 的 basis β={v1,,vk,vk+1,,vn}\beta=\{\vec{v}_1,\dots,\vec{v}_k,\vec{v}_{k+1},\dots,\vec{v}_n\}

[T]ββ=[AC0B],A=[TW]β1β1[T]_{\beta}^{\beta}=\begin{bmatrix}A&C\\0&B\end{bmatrix}, \quad A=[T_W]_{\beta_1}^{\beta_1}

定理

T:VVT:V\to V 為 linear operator。若 W1,W2W_1,W_2 皆為 TT-invariant subspaces,且 V=W1W2V=W_1\oplus W_2

β1\beta_1W1W_1 的 basis,β2\beta_2W2W_2 的 basis,令 β=β1β2\beta=\beta_1\cup\beta_2,則

[T]ββ=[A100A2],A1=[TW1]β1β1,A2=[TW2]β2β2[T]_{\beta}^{\beta}=\begin{bmatrix}A_1&0\\0&A_2\end{bmatrix}, \quad A_1=[T_{W_1}]_{\beta_1}^{\beta_1}, \quad A_2=[T_{W_2}]_{\beta_2}^{\beta_2}

Corollary

空間直和到矩陣直和:
W1,,WkW_1,\dots,W_k 皆為 TT-invariant subspaces,且 V=W1WkV=W_1\oplus\cdots\oplus W_k

取各 WiW_i 的 basis βi\beta_i,並令 β=β1βk\beta=\beta_1\cup\cdots\cup\beta_k,則

[T]ββ=[A1000A2000Ak],Ai=[TWi]βiβi[T]_{\beta}^{\beta}=\begin{bmatrix} A_1&0&\cdots&0\\ 0&A_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&A_k \end{bmatrix}, \quad A_i=[T_{W_i}]_{\beta_i}^{\beta_i}

Eigenvalue 及 Eigenvector

定義

T:VVT:V\to V 為 linear operator,λF\lambda\in F。若存在 v0\vec{v}\ne\vec{0},使得 T(v)=λvT(\vec{v})=\lambda\vec{v}

則稱 λ\lambdaTTeigenvalue (特徵值),稱 v\vec{v}TT with respect to λ\lambdaeigenvector (特徵向量)。

此時 (λ,v)(\lambda,\vec{v}) 稱為一組 eigenpair

AAn×nn\times n matrix,則矩陣版本為 Ax=λx,x0 A\vec{x}=\lambda\vec{x},\qquad \vec{x}\ne\vec{0}

Note
  • Ax=λxA\vec{x}=\lambda\vec{x}x0\vec{x}\ne\vec{0},則對任意 c0c\ne0cxc\vec{x} 仍為 AA 相對於 λ\lambdaeigenvector

  • Ax1=λx1A\vec{x}_1=\lambda\vec{x}_1Ax2=λx2A\vec{x}_2=\lambda\vec{x}_2,且 x1,x20\vec{x}_1,\vec{x}_2\ne\vec{0},則 A(x1+x2)=λ(x1+x2)A(\vec{x}_1+\vec{x}_2)=\lambda(\vec{x}_1+\vec{x}_2)

    • x1+x2\vec{x}_1+\vec{x}_2 不一定非零。因此 eigenvectors 相加不一定仍是 eigenvector,除非 x1+x20\vec{x}_1+\vec{x}_2\ne\vec{0}

定義

T:VVT:V\to V 為 linear operator。取 VV 的任一組 ordered basis β\beta,定義

  • tr(T)=tr([T]ββ)\operatorname{tr}(T)=\operatorname{tr}([T]_{\beta}^{\beta})
  • det(T)=det([T]ββ)\det(T)=\det([T]_{\beta}^{\beta})
Note

β,γ\beta,\gammaVV 的兩組 ordered bases,[T]ββ[T]γγ[T]_{\beta}^{\beta}\sim [T]_{\gamma}^{\gamma}。則

  • tr([T]ββ)=tr([T]γγ)\operatorname{tr}([T]_{\beta}^{\beta})=\operatorname{tr}([T]_{\gamma}^{\gamma})
  • det([T]ββ)=det([T]γγ)\det([T]_{\beta}^{\beta})=\det([T]_{\gamma}^{\gamma})

定理

AAn×nn\times n matrix,λF\lambda\in F

λλ(A)det(AλI)=0\lambda\in\lambda(A)\Longleftrightarrow \det(A-\lambda I)=0

定義

AAn×nn\times n matrix,定義 PA(x)=det(AxI)P_A(x)=\det(A-xI)AAcharacteristic polynomial (特徵多項式)。

Note

A=[aij]n×nA=[a_{ij}]_{n\times n},則

PA(x)=det(AxI)=a11xa12a1na21a22xa2nan1an2annxP_A(x)=\det(A-xI) =\begin{vmatrix} a_{11}-x&a_{12}&\cdots&a_{1n}\\ a_{21}&a_{22}-x&\cdots&a_{2n}\\ \vdots&\vdots&\ddots&\vdots\\ a_{n1}&a_{n2}&\cdots&a_{nn}-x \end{vmatrix}

因此 PA(x)P_A(x)nn 次多項式,且首項為 (1)nxn(-1)^nx^n,常數項為 det(A)\det(A)

(x)n1(-x)^{n-1} 的係數為 a11+a22++ann=tr(A)a_{11}+a_{22}+\cdots+a_{nn}=\operatorname{tr}(A)

所以 PA(x)=(1)nxn+(1)n1tr(A)xn1++det(A)P_A(x)=(-1)^nx^n+(-1)^{n-1}\operatorname{tr}(A)x^{n-1}+\cdots+\det(A)

特別地,當 AA2×22\times2 matrix 時 PA(x)=x2tr(A)x+det(A)P_A(x)=x^2-\operatorname{tr}(A)x+\det(A)


定義

T:VVT:V\to V 為 linear operator,且 λλ(T)\lambda\in\lambda(T)。定義 V(λ)={vVT(v)=λv}V(\lambda)=\{\vec{v}\in V\mid T(\vec{v})=\lambda\vec{v}\}TT 相對於 λ\lambdaeigenspace (特徵空間)。

Note
  • V(λ)=ker(TλI)V(\lambda)=\ker(T-\lambda I)
  • V(λ)sVV(\lambda)\overset{s}{\subseteq}V
Lemma

T:VVT:V\to V 為 linear operator,且 λλ(T)\lambda\in\lambda(T)

V(λ)V(\lambda)TT-invariant subspace。

Note

AAn×nn\times n matrix。

  • λ(A)=λ(AT)\lambda(A)=\lambda(A^T)
    • PA(x)=det(AxI)=det((AxI)T)=det(ATxI)=PAT(x)P_A(x)=\det(A-xI)=\det((A-xI)^T)=\det(A^T-xI)=P_{A^T}(x)
  • AAATA^T 不一定有相同的 eigenvectors

定理

AAn×nn\times n matrix,且 λ1,,λr\lambda_1,\dots,\lambda_rAA 的相異 eigenvalues。

(1) V(λ1),,V(λr)V(\lambda_1),\dots,V(\lambda_r) 為 independent subspaces。

(2) 若 x1,,xr\vec{x}_1,\dots,\vec{x}_r 分別為 AA 相對於 λ1,,λr\lambda_1,\dots,\lambda_r 的 eigenvectors,則 x1,,xr\vec{x}_1,\dots,\vec{x}_r 為 LI。

也就是說: 相異 eigenvalues 對應的 eigenvectors 一定線性獨立。

定理

A,BA,Bn×nn\times n matrix。若 ABA\sim B,則

  • PA(x)=PB(x)P_A(x)=P_B(x)
  • λ(A)=λ(B)\lambda(A)=\lambda(B)

常見證明 λ(A)=λ(B)\lambda(A)=\lambda(B) 的方式:

  • 證明 characteristic polynomial 相同: PA(x)=PB(x)P_A(x)=P_B(x),也就是 det(AxI)=det(BxI)\det(A-xI)=\det(B-xI)
  • λ(A)=λ(B)\lambda(A)=\lambda(B) 只代表 eigenvalues 相同,不代表 eigenvectors 完全相同。
定理

A,BA,Bn×nn\times n matrices,則 ABABBABA 具有相同的 eigenvalues。


Note

Ax=λxA\vec{x}=\lambda\vec{x},且 x0\vec{x}\ne\vec{0},則 A2x=A(Ax)=A(λx)=λAx=λ2xA^2\vec{x}=A(A\vec{x})=A(\lambda\vec{x})=\lambda A\vec{x}=\lambda^2\vec{x}

同理可得 Akx=λkxA^k\vec{x}=\lambda^k\vec{x}

定理

eigenvalue 表現定理:

Ax=λxA\vec{x}=\lambda\vec{x},且 x0\vec{x}\ne\vec{0},則有下列常用結果:

matrix eigenvalue eigenvector
AA λ\lambda x\vec{x}
ATA^T λ\lambda 不一定是 x\vec{x}
AHA^H λ\overline{\lambda} 不一定是 x\vec{x}
A1A^{-1} λ1\lambda^{-1} x\vec{x}
AkA^k λk\lambda^k x\vec{x}
αA\alpha A αλ\alpha\lambda x\vec{x}
A+αIA+\alpha I λ+α\lambda+\alpha x\vec{x}
f(A)f(A) f(λ)f(\lambda) x\vec{x}
範例

A=[211111232222334333444544555565666667]A=\begin{bmatrix} 2&1&1&1&1&1\\ 2&3&2&2&2&2\\ 3&3&4&3&3&3\\ 4&4&4&5&4&4\\ 5&5&5&5&6&5\\ 6&6&6&6&6&7 \end{bmatrix}

λ(A)\lambda(A)

對角化

定義
  • 函數版本: 令 T:VVT:V\to V 為 linear operator。若存在 VV 的一組 basis β\beta,使得 [T]ββ=D[T]_{\beta}^{\beta}=D 為對角矩陣,則稱 TT 可對角化 (diagonalizable)。

  • 矩陣版本: 令 AAn×nn\times n matrix。若存在可逆矩陣 PP,使得 P1AP=DP^{-1}AP=D (相似) 為對角矩陣,則稱 AA 可對角化 (diagonalizable)。

定理

T:VVT:V\to V 為 linear operator,且 dim(V)=n\operatorname{dim}(V)=n

TT 可對角化 \Longleftrightarrow TT 含有 nn 個 LI eigenvectors。

定理

AAn×nn\times n matrix。

AA 可對角化 \Longleftrightarrow AA 含有 nn 個 LI eigenvectors。

Note
  • AA 可對角化,則
    • PP 的行向量為 AA 的 eigenvectors
    • DD 的對角項為對應的 eigenvalues。
  • PP 不唯一,但 DD 唯一 (不考慮排列順序)。
  • AA 不具 nn 個 LI eigenvectors,則稱 AAdefective matrix,也就是 AA 不可對角化。

定義

AAn×nn\times n matrix,且 λλ(A)\lambda\in\lambda(A)

  • 代數重數 (algebraic multiplicity): λ\lambdaPA(x)P_A(x) 之重根數,記作 am(λ)\operatorname{am}(\lambda)
  • 幾何重數 (geometric multiplicity): gm(λ)=dim(V(λ))\operatorname{gm}(\lambda)=\operatorname{dim}(V(\lambda))
    • gm(λ)=dim(V(λ))=dim(ker(AλI))=nullity(AλI)=nrank(AλI)\operatorname{gm}(\lambda)=\operatorname{dim}(V(\lambda))=\operatorname{dim}(\operatorname{ker}(A-\lambda I))=\operatorname{nullity}(A-\lambda I)=n-\operatorname{rank}(A-\lambda I)
定理

AAn×nn\times n matrix,且 λλ(A)\lambda\in\lambda(A)
gm(λ)am(λ)\operatorname{gm}(\lambda)\le \operatorname{am}(\lambda)

Note

AAn×nn\times n matrix,且 λλ(A)\lambda\in\lambda(A)

  • 1gm(λ)am(λ)n1\le \operatorname{gm}(\lambda)\le \operatorname{am}(\lambda)\le n
  • am(λ)=1\operatorname{am}(\lambda)=1,則 gm(λ)=1\operatorname{gm}(\lambda)=1

定義

f(x)Pnf(x)\in P_n。若 f(x)f(x) 的所有根皆落在 FF 中,則稱 f(x)f(x) split over FF

例如 f(x)=x2+1f(x)=x^2+1 split over C\mathbb{C},但不 split over R\mathbb{R}

定理

AAn×nn\times n matrix,且 PA(x)P_A(x) split over FF。若 AA 的 eigenvalues 為 λ1,λ2,,λn\lambda_1,\lambda_2,\dots,\lambda_n,包含重複計算,則

  • det(A)=λ1λ2λn\det(A)=\lambda_1\lambda_2\cdots\lambda_n
    • PA(x)=(λ1x)(λnx)P_A(x)=(\lambda_1-x)\cdots(\lambda_n-x),令 x=0x=0,得 PA(0)=det(A)=λ1λnP_A(0)=\det(A)=\lambda_1\cdots\lambda_n
  • tr(A)=λ1+λ2++λn\operatorname{tr}(A)=\lambda_1+\lambda_2+\cdots+\lambda_n
    • 比較 PA(x)P_A(x)(x)n1(-x)^{n-1} 的係數,一邊為 tr(A)\operatorname{tr}(A),另一邊為 λ1++λn\lambda_1+\cdots+\lambda_n

此外,對任意正整數 kk,有 tr(Ak)=λ1k+λ2k++λnk\operatorname{tr}(A^k)=\lambda_1^k+\lambda_2^k+\cdots+\lambda_n^k

範例

A=[abbbabbba]n×nA=\begin{bmatrix} a&b&\cdots&b\\ b&a&\cdots&b\\ \vdots&\vdots&\ddots&\vdots\\ b&b&\cdots&a \end{bmatrix}_{n\times n}

  • λ=ab\lambda=a-b,重數為 n1n-1
  • λ=a+(n1)b\lambda=a+(n-1)b,重數為 11
  • PA(x)=[(ab)x]n1[a+(n1)bx]P_A(x)=[(a-b)-x]^{n-1}[a+(n-1)b-x]
  • det(A)=(ab)n1[a+(n1)b]\det(A)=(a-b)^{n-1}[a+(n-1)b]
  • AA 可對角化。

定理

T:VVT:V\to V 為 linear operator,且 dim(V)=n\operatorname{dim}(V)=n。設 λ1,,λr\lambda_1,\dots,\lambda_rTT 的相異 eigenvalues。

TT 可對角化
PT(x) split over F 且 gm(λi)=am(λi),i=1,,r\Longleftrightarrow P_T(x) \text{ split over } F \text{ 且 } \operatorname{gm}(\lambda_i)=\operatorname{am}(\lambda_i), \forall i=1,\dots,r
V=V(λ1)V(λr)\Longleftrightarrow V=V(\lambda_1)\oplus\cdots\oplus V(\lambda_r)

定理

AAn×nn\times n matrix。若 AA 具有 nn 個相異 eigenvalues,則 AA 可對角化。

  • 相異 eigenvalues 對應的 eigenvectors 必為 LI,所以可找到 nn 個 LI eigenvectors。
定理

AAn×nn\times n matrix。若 AA 可對角化,則

  • A1A^{-1} 可對角化,前提是 AA 可逆。
  • ATA^T 可對角化。
Note

不是每個 matrix 都可對角化。判斷時常用以下三種方式:

  • 找到 nnLI eigenvectors
  • 確認每個 eigenvalue 皆滿足 gm(λ)=am(λ)\operatorname{gm}(\lambda)=\operatorname{am}(\lambda)
  • 確認所有 eigenspaces 可形成整個空間的直和
範例
定義

A,BA,B 皆為 n×nn\times n matrices。若 AABB 具有同一組由 eigenvectors 組成的 basis,則稱 A,BA,B 可同步對角化 (simultaneously diagonalizable)。

等價地,存在同一個可逆矩陣 PP,使得 P1APP^{-1}APP1BPP^{-1}BP 皆為對角矩陣。

冪等算子

定義
  • T:VVT:V\to V 為 linear operator。若 T2=TT^2=T,則稱 TTidempotent operator

  • AAn×nn\times n matrix。若 A2=AA^2=A,則稱 AAidempotent matrix

Note

對任意 linear operator TT,有

  • ker(T)ker(T2)ker(T3)\ker(T)\subseteq \ker(T^2)\subseteq \ker(T^3)\subseteq \cdots
  • Im(T)Im(T2)Im(T3)\operatorname{Im}(T)\supseteq \operatorname{Im}(T^2)\supseteq \operatorname{Im}(T^3)\supseteq \cdots

T2=TT^2=T,則對任意 vIm(T)\vec{v}\in \operatorname{Im}(T),可寫成 v=T(u)\vec{v}=T(\vec{u}),因此 T(v)=T2(u)=T(u)=vT(\vec{v})=T^2(\vec{u})=T(\vec{u})=\vec{v}
所以 Im(T)V(1)\operatorname{Im}(T)\subseteq V(1)。反之,若 vV(1)\vec{v}\in V(1),則 T(v)=vT(\vec{v})=\vec{v},故 vIm(T)\vec{v}\in \operatorname{Im}(T)
因此 V(1)=Im(T)V(1)=\operatorname{Im}(T)

Note

T2=TT^2=T,則

  • ker(T)=ker(T2)\ker(T)=\ker(T^2)
  • nullity(T)=nullity(T2)\operatorname{nullity}(T)=\operatorname{nullity}(T^2)
  • rank(T)=rank(T2)\operatorname{rank}(T)=\operatorname{rank}(T^2)
  • Im(T)=Im(T2)\operatorname{Im}(T)=\operatorname{Im}(T^2)

定理

T:VVT:V\to V 為 linear operator。則下列敘述等價:

  • V=ker(T)Im(T)V=\ker(T)\oplus \operatorname{Im}(T)
  • V=ker(T)+Im(T)V=\ker(T)+\operatorname{Im}(T)
  • ker(T)Im(T)={0}\ker(T)\cap \operatorname{Im}(T)=\{\vec{0}\}

也就是說,當上述條件成立時,ker(T)\ker(T)Im(T)\operatorname{Im}(T) 形成 VV 的 direct sum decomposition。

定理

T:VVT:V\to V 為 idempotent operator,即 T2=TT^2=T。則 V=ker(T)Im(T)V=\ker(T)\oplus \operatorname{Im}(T)

證明

先證 V=ker(T)+Im(T)V=\ker(T)+\operatorname{Im}(T)。任取 vV\vec{v}\in V,可寫成 v=(vT(v))+T(v)\vec{v}=(\vec{v}-T(\vec{v}))+T(\vec{v})

其中 T(v)Im(T)T(\vec{v})\in \operatorname{Im}(T)

T(vT(v))=T(v)T2(v)=0T(\vec{v}-T(\vec{v}))=T(\vec{v})-T^2(\vec{v})=\vec{0},故 vT(v)ker(T)\vec{v}-T(\vec{v})\in \ker(T)

得到 V=ker(T)Im(T)V=\ker(T)\oplus \operatorname{Im}(T) (by 前一個定理)。

定理

T:VVT:V\to V 為 linear operator,且 T2=TT^2=T。則

  • TT 的 eigenvalues 只可能為 0011
    • T2=TT^2=Tλ2v=T2(v)=T(v)=λv\lambda^2\vec{v}=T^2(\vec{v})=T(\vec{v})=\lambda\vec{v},故 λ2=λ\lambda^2=\lambda,即 λ=0\lambda=011
  • V(0)=ker(T)V(0)=\ker(T)V(1)=Im(T)V(1)=\operatorname{Im}(T)
    • V(0)=ker(T0I)=ker(T)V(0)=\ker(T-0I)=\ker(T)
    • V(1)=Im(T)V(1)=\operatorname{Im}(T) 前面證明過。
  • TT 可對角化,且存在 VV 的一組 basis β\beta,使 [T]β=D=[Ir000],r=rank(T) [T]_{\beta}=D=\begin{bmatrix} I_r&0\\ 0&0 \end{bmatrix},\quad r=\operatorname{rank}(T)
Note

AAn×nn\times n matrix,且 A2=AA^2=A。定義 T(x)=AxT(\vec{x})=A\vec{x},則 T2=TT^2=T,所以

  • AA 的 eigenvalues 只可能為 0011
  • V(0)=ker(A)V(0)=\ker(A)V(1)=CS(A)V(1)=\operatorname{CS}(A)
  • AA 可對角化,且 AD=[Ir000]A\sim D=\begin{bmatrix} I_r&0\\ 0&0 \end{bmatrix},其中 r=rank(A)r=\operatorname{rank}(A)
  • tr(A)=tr(D)=r=rank(A)\operatorname{tr}(A)=\operatorname{tr}(D)=r=\operatorname{rank}(A)

對角化的應用

Note

若存在可逆矩陣 PP 使

P1AP=D=[λ1000λ2000λn]P^{-1}AP=D=\begin{bmatrix} \lambda_1&0&\cdots&0\\ 0&\lambda_2&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&\lambda_n \end{bmatrix}

A=PDP1A=PDP^{-1}。因此

Ak=PDkP1=P[λ1k000λ2k000λnk]P1A^k=PD^kP^{-1} =P\begin{bmatrix} \lambda_1^k&0&\cdots&0\\ 0&\lambda_2^k&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&\lambda_n^k \end{bmatrix}P^{-1}

更一般地,若 f(x)f(x) 為 polynomial,則

f(A)=Pf(D)P1=P[f(λ1)000f(λ2)000f(λn)]P1f(A)=Pf(D)P^{-1} =P\begin{bmatrix} f(\lambda_1)&0&\cdots&0\\ 0&f(\lambda_2)&\cdots&0\\ \vdots&\vdots&\ddots&\vdots\\ 0&0&\cdots&f(\lambda_n) \end{bmatrix}P^{-1}

範例

Markov chain

定義
  • stochastic process (隨機過程): 隨時間變化的隨機系統。

  • Markov process: 下一步狀態只與目前狀態有關,與更早以前的狀態無關。

  • Markov matrix/stochastic matrix: entries 皆 0\ge 0,且每一欄和為 11 的矩陣,也稱 transition matrix

  • probability vector (機率向量): entries 皆 0\ge 0,且 entries 總和為 11 的向量。

Note
  • x0\vec{x}_0 為 initial probability vector,則 xn=Axn1=Anx0\vec{x}_n=A\vec{x}_{n-1}=A^n\vec{x}_0

    • xn\vec{x}_n 為第 nn 個 generation 的 probability vector。
  • 若 probability vector x\vec{x} 滿足 Ax=xA\vec{x}=\vec{x},則稱 x\vec{x}steady-state vector,也就是 xker(AI)\vec{x}\in\ker(A-I)

  • AA 為 transition matrix,且存在 kZ+k\in\mathbb{Z}^+ 使 AkA^k 中每一項皆為正,則稱 AAregular transition matrix

定理

AAn×nn\times n regular transition matrix。則存在唯一的 steady-state vector x\vec{x},使得

limkAk=[xxx]\lim_{k\to\infty}A^k= \begin{bmatrix} \vec{x}&\vec{x}&\cdots&\vec{x} \end{bmatrix}

即長期狀態會趨近同一個 steady-state vector,與初始狀態無關。

Note

x0\vec{x}_0 為 initial probability vector,則

limkxk=limkAkx0=[xxx]x0=x\lim_{k\to\infty}\vec{x}_k =\lim_{k\to\infty}A^k\vec{x}_0 =\begin{bmatrix} \vec{x}&\vec{x}&\cdots&\vec{x} \end{bmatrix}\vec{x}_0 =\vec{x}