考研相關文章參考資料為 wjungle 大神提供的筆記

Ch6 Jordan form 及其應用

這章可以跳著讀，重點為 Cayley-Hamilton theorem 及其應用

冪零算子

定義

設 $T: V \to V$ 為線性算子。若存在正整數 $k \in \mathbb{Z}^{+}$ ，使得 $T^{k} = 0$

則稱 $T$ 為nilpotent operator (冪零算子)。

其中，使 $T^{k}=0$ 成立的最小正整數 $k$ ，稱為 $T$ 的index (冪零指數)。

例如若 $A$ 為 $n \times n$ 的嚴格下三角矩陣或嚴格上三角矩陣:

A= \begin{bmatrix} 0 & 0 & \cdots & 0\\ * & 0 & \cdots & 0\\ \vdots & \ddots & \ddots & \vdots\\ * & \cdots & * & 0 \end{bmatrix} \quad \text{or} \quad A= \begin{bmatrix} 0 & * & \cdots & *\\ 0 & 0 & \ddots & \vdots\\ \vdots & \ddots & \ddots & *\\ 0 & \cdots & 0 & 0 \end{bmatrix}

則必有 $A^{n}=0$

Note

$T$ : nilpotent with index $k$

$\Longleftrightarrow T^{k}=0 \quad \text{且} \quad T^{k-1}\ne 0$

$\Longleftrightarrow \ker(T^{k})=V \quad \text{且} \quad \ker(T^{k-1})\ne V$

定義

定義 $S_k$ 為 $k \times k$ matrix:

S_k= \begin{bmatrix} 0 & 0 & \cdots & 0\\ 1 & 0 & \ddots & \vdots\\ 0 & \ddots & \ddots & 0\\ 0 & \cdots & 1 & 0 \end{bmatrix}_{k \times k}

定義 $S_k^T$ 為 $k \times k$ matrix:

S_k^T= \begin{bmatrix} 0 & 1 & \cdots & 0\\ 0 & 0 & \ddots & \vdots\\ \vdots & \ddots & \ddots & 1\\ 0 & \cdots & 0 & 0 \end{bmatrix}_{k \times k}

定義

設 $T: V \to V$ 為 linear operator， $W$ 為 $T$ -invariant subspace

若 $T_W$ 可逆，稱 $T$ 在 $W$ 上局部可逆，且 $W$ 為可逆區。
若 $T_W$ 為 nilpotent，稱 $T$ 在 $W$ 上局部冪零，且 $W$ 為冪零區。

Note

若 $W=\ker(T)$ ，則 $T_W=0$ : nilpotent。
若 $W=\ker(T^2)$ ，則 $(T_W)^2=0$ : nilpotent。
若 $W=\ker(T^k)$ ，則 $(T_W)^k=0$ 。
最大冪零區 $=\ker(T^\infty)$ 。

Lemma

若 $\ker(T^k)=\ker(T^{k+1})$
則 $\ker(T^{k+1})=\ker(T^{k+2})=\cdots$

定理

kernel chain:
設 $T: V \to V$ 為 linear operator，且 $\dim(V)=n<\infty$ 。

$\{0\}\subseteq \ker(T)\subseteq \ker(T^2)\subseteq \cdots \subseteq V$
存在最小 $k\in \mathbb{Z}^{+}$ ，使得 $\ker(T^k)=\ker(T^{k+1})=\cdots$
$W=\bigcup_{i=1}^{\infty}\ker(T^i)=\ker(T^k)$ 為最大冪零區。

定理

image chain:
設 $T: V \to V$ 為 linear operator，且 $\dim(V)=n<\infty$ 。

$V\supseteq \operatorname{Im}(T)\supseteq \operatorname{Im}(T^2)\supseteq \cdots \supseteq \{0\}$
存在最小 $k\in \mathbb{Z}^{+}$ ，使得 $\operatorname{Im}(T^k)=\operatorname{Im}(T^{k+1})=\cdots$
$W=\bigcap_{i=1}^{\infty}\operatorname{Im}(T^i)=\operatorname{Im}(T^k)$ 為最大可逆區。

Note

$\ker(T^k)=\ker(T^{k+1})$
$\Longleftrightarrow \operatorname{nullity}(T^k)=\operatorname{nullity}(T^{k+1})$
$\Longleftrightarrow \operatorname{rank}(T^k)=\operatorname{rank}(T^{k+1})$
$\Longleftrightarrow \operatorname{Im}(T^k)=\operatorname{Im}(T^{k+1})$

即 kernel chain 與 image chain 中斷點為同一點。

定理

設 $A$ 為 $n\times n$ matrix。
$A: \text{nilpotent}\Longleftrightarrow A$ 之所有 eigenvalues 皆為 $0$

Note

可逆: 所有 eigenvalues 都不為 $0$ 。
nilpotent: 所有 eigenvalues 皆為 $0$ 。

定理

設 $T: V\to V$ 為 nilpotent operator with index $k$ 。

則存在 $\vec{v}\in V$ ，使得 $\beta=\{\vec{v},T(\vec{v}),T^2(\vec{v}),\ldots,T^{k-1}(\vec{v})\}$ 為 LI。

Note

只要 $\vec{v}\in \ker(T^k)-\ker(T^{k-1})$

則 $\beta=\{\vec{v},T(\vec{v}),\ldots,T^{k-1}(\vec{v})\}$ 為 LI，稱為 $\operatorname{heig}(\vec{v})=k$ 。

廣義特徵鍊

定義

設 $\lambda$ 為 $A$ 之 eigenvalue。

若 $x\ne 0$ 且滿足

$(A-\lambda I)^m x=0$
$(A-\lambda I)^{m-1}x\ne 0$

則稱 $x$ 為 $A$ 之 $m$ 階 generalized eigenvector (廣義特徵)。

$m=1$ 時 $(A-\lambda I)x=0$ ，此時 $x$ 即為 eigenvector。

定義

設 $\lambda$ 為 $A$ 之 eigenvalue，且 $x_1$ 為 eigenvector with eigenvalue $\lambda$ 。

若 $x_1,x_2,\ldots,x_k$ 滿足

\begin{aligned} (A-\lambda I)x_2&=x_1\\ (A-\lambda I)x_3&=x_2\\ &\vdots\\ (A-\lambda I)x_k&=x_{k-1} \end{aligned}

則稱 $\{x_1,x_2,\ldots,x_k\}$ 為 $\lambda$ 之 generalized eigenvector chain (廣義特徵鏈)。

Dot diagram

Dot diagram 用法:

設 $N_\lambda=A-\lambda I$ 。

先算 $\operatorname{nullity}(N_\lambda),\operatorname{nullity}(N_\lambda^2),\operatorname{nullity}(N_\lambda^3),\ldots$ ，直到數值不再增加。
令 $d_j=\operatorname{nullity}(N_\lambda^j)-\operatorname{nullity}(N_\lambda^{j-1})$ ，其中 $\operatorname{nullity}(N_\lambda^0)=0$ 。
$d_j$ 表示第 $j$ 欄有幾個點。
每一列點數就是一個 Jordan block 的 size。

因此:

gm $(\lambda)=\operatorname{nullity}(A-\lambda I)$ = dot diagram 的列數 = Jordan blocks 個數。
am $(\lambda)$ = dot diagram 的總點數。
第一列點數 = 最大 Jordan block size = $m_A(x)$ 中 $(x-\lambda)$ 的次方。

Example

設 $A$ 為 square matrix。

對 $\lambda=2$ :

\begin{aligned} \operatorname{nullity}(A-2I)&=4\\ \operatorname{nullity}((A-2I)^2)&=6\\ \operatorname{nullity}((A-2I)^3)&=8\\ \operatorname{nullity}((A-2I)^4)&=9\\ \operatorname{nullity}((A-2I)^5)&=10\\ \operatorname{nullity}((A-2I)^6)&=10 \end{aligned}

則 $d_1=4, d_2=2, d_3=2, d_4=1, d_5=1$

所以 dot diagram 的列長為 $5,3,1,1$ ，即 $J_5(2), J_3(2), J_1(2), J_1(2)$

故 $\operatorname{am}(2)=10, \operatorname{gm}(2)=4$

對 $\lambda=3$ ，若 dot diagram 的列長為 $2,2,1,1,1$ ，則 $J_2(3), J_2(3), J_1(3), J_1(3), J_1(3)$

且 $\operatorname{am}(3)=7, \operatorname{gm}(3)=5$

因此 $J=J_5(2)\oplus J_3(2)\oplus J_1(2)\oplus J_1(2)\oplus J_2(3)\oplus J_2(3)\oplus J_1(3)\oplus J_1(3)\oplus J_1(3)$

且 $P_A(t)=(-1)^{17}(t-2)^{10}(t-3)^7=-(t-2)^{10}(t-3)^7$

Jordan form

定義

Jordan Block:

J_m(\lambda)= \begin{bmatrix} \lambda & 1 & 0 & \cdots & 0\\ 0 & \lambda & 1 & \ddots & \vdots\\ \vdots & \ddots & \ddots & \ddots & 0\\ 0 & \cdots & 0 & \lambda & 1\\ 0 & \cdots & \cdots & 0 & \lambda \end{bmatrix}_{m\times m} =\lambda I_m+S_m

定義

Jordan Form:

J= \begin{bmatrix} J_{n_1}(\lambda_1) & & & 0\\ & J_{n_2}(\lambda_2) & & \\ & & \ddots & \\ 0 & & & J_{n_k}(\lambda_k) \end{bmatrix}

即 $J=J_{n_1}(\lambda_1)\oplus J_{n_2}(\lambda_2)\oplus\cdots\oplus J_{n_k}(\lambda_k)$

Jordan Form 排列時:
- $\lambda$ 由大排到小
- 同一個 $\lambda$ 下， $J_n(\lambda)$ 的 $n$ 也由大排到小。

定理

任意方陣 over $\mathbb{C}$ 皆可喬登化。

對角化 $A\sim D$ : 存在 invertible matrix $P$ ，使得 $P^{-1}AP=D$
喬登化 $A\sim J$ : 存在 invertible matrix $P$ ，使得 $P^{-1}AP=J$

定義

設 $A$ 為 $n\times n$ matrix。

若 $A\sim J$ ，且 $J$ 為 Jordan form，則稱 $J$ 為 $A$ 之 Jordan form，記作 $J_A$ 。

$J_A$ 唯一。

定理

$A\sim B\Longleftrightarrow J_A=J_B$

Cayley-Hamilton 定理

定理

設 $A$ 為 $n\times n$ matrix，且 $P_A(x)=\det(A-xI)$
則 $P_A(A)=0$

$0$ 為 zero matrix。

證明

令 $P_A(x)=(-1)^n x^n+a_{n-1}x^{n-1}+\cdots+a_1x+a_0$

由 $(A-xI)\operatorname{adj}(A-xI)=\det(A-xI)I$

令 $\operatorname{adj}(A-xI)=A_{n-1}x^{n-1}+A_{n-2}x^{n-2}+\cdots+A_1x+A_0$

其中 $A_{n-1},\ldots,A_1,A_0$ 皆為 $n\times n$ matrix

代入得 $(A-xI)(A_{n-1}x^{n-1}+A_{n-2}x^{n-2}+\cdots+A_1x+A_0)=\left[(-1)^n x^n+a_{n-1}x^{n-1}+\cdots+a_1x+a_0\right]I$

比較係數:

\begin{aligned} -A_{n-1}&=(-1)^n I\\ AA_{n-1}-A_{n-2}&=a_{n-1}I\\ AA_{n-2}-A_{n-3}&=a_{n-2}I\\ &\vdots\\ AA_1-A_0&=a_1I\\ AA_0&=a_0I \end{aligned}

分別右乘 $A^n,A^{n-1},A^{n-2},\ldots,A,I$ 後相加，得 $0=(-1)^nA^n+a_{n-1}A^{n-1}+\cdots+a_1A+a_0I=P_A(A)$

Note

設 $A$ 為 $n\times n$ matrix，且 $r(x)=r_0+r_1x+\cdots+r_{n-1}x^{n-1}$

則 $f(A)=r(A)=r_0I+r_1A+\cdots+r_{n-1}A^{n-1}$

因此 $f(A)\in \operatorname{span}\{I,A,A^2,\ldots,A^{n-1}\}$

且 $\dim\left(\operatorname{span}\{I,A,A^2,\ldots,A^{n-1}\}\right)\le n$

Note

應用方式 1:
設 $A$ 為 $n\times n$ matrix， $f(x)\in P$ 。

若 $f(x)=g(x)P_A(x)+r(x),\quad \deg(r(x))<\deg(P_A(x))=n$

則 $f(A)=g(A)P_A(A)+r(A)=r(A)$

Note

應用方式 2:
泰勒展開:
若 $P_A(x)=(x-\lambda)^m$ ，要求 $f(A)$ ，可將 $f(x)$ 對 $x=\lambda$ 作 Taylor expansion，取 degree $<m$ 的部分作為 $r(x)$ 。

Taylor expansion: $f(x)=f(\lambda)+f'(\lambda)(x-\lambda)+\frac{f''(\lambda)}{2!}(x-\lambda)^2+\cdots+\frac{f^{(m-1)}(\lambda)}{(m-1)!}(x-\lambda)^{m-1}+\cdots$

Note

若 $A$ 為 $n\times n$ invertible matrix，且 $P_A(x)=(-1)^nx^n+a_{n-1}x^{n-1}+\cdots+a_1x+a_0$

則 $a_0=\det(A)\ne 0$

由 Cayley-Hamilton theorem: $0=P_A(A)=(-1)^nA^n+a_{n-1}A^{n-1}+\cdots+a_1A+a_0I$

所以 $A\left(\frac{(-1)^nA^{n-1}+a_{n-1}A^{n-2}+\cdots+a_1I}{-a_0}\right)=I$

因此 $A^{-1}=\frac{1}{-a_0}\left[(-1)^nA^{n-1}+a_{n-1}A^{n-2}+\cdots+a_1I\right]$

也就是 $A^{-1}\in \operatorname{span}{I,A,\ldots,A^{n-1}} $

故 $A^{-1}=g(A)$ 。

應用: 證明上三角反矩陣仍為上三角

應用

定理

質因式分解定理:

$g(t)$ 與 $h(t)$ 互質，且兩者次數至少為 1
$f(A)=g(A)h(A)=0$

則 $V=N(g(A))\oplus N(h(A))$

定理

Primary Decomposition Theorem:

考慮 over $\mathbb{C}$ ，令 $f(t)=(t-u_1)^{m_1}(t-u_2)^{m_2}\cdots(t-u_k)^{m_k}$

$u_1,\ldots,u_k$ 全相異，且不一定要是 eigenvalue

若 $f(A)=0_{n\times n}$

則 $V=N((A-u_1I)^{m_1})\oplus N((A-u_2I)^{m_2})\oplus\cdots\oplus N((A-u_kI)^{m_k})$

Note

結合 Cayley-Hamilton theorem:

在 $\mathbb{C}$ 之中，若 $P_A(t)=(t-\lambda_1)^{n_1}\cdots(t-\lambda_k)^{n_k}$ ，其中 $n_1+\cdots+n_k=n$ 。

令 $f(t)=P_A(t)$ ，則 $f(A)=P_A(A)=0$ 。

故 $V=N((A-\lambda_1I)^{n_1})\oplus\cdots\oplus N((A-\lambda_kI)^{n_k})$

定理

Lagrange-Sylvester Interpolation Formula:

令

J_n(\lambda)= \begin{bmatrix} \lambda & 1 & 0 & \cdots & 0\\ 0 & \lambda & 1 & \ddots & \vdots\\ \vdots & \ddots & \ddots & \ddots & 0\\ 0 & \cdots & 0 & \lambda & 1\\ 0 & \cdots & \cdots & 0 & \lambda \end{bmatrix}

則

f(J_n(\lambda))= \begin{bmatrix} f(\lambda) & f'(\lambda) & \frac{f''(\lambda)}{2!} & \cdots & \frac{f^{(n-1)}(\lambda)}{(n-1)!}\\ 0 & f(\lambda) & f'(\lambda) & \ddots & \vdots\\ \vdots & \ddots & \ddots & \ddots & \frac{f''(\lambda)}{2!}\\ 0 & \cdots & 0 & f(\lambda) & f'(\lambda)\\ 0 & \cdots & \cdots & 0 & f(\lambda) \end{bmatrix}

若 $f(x)=\sum_{m=-\infty}^{\infty}a_mx^m$ ，且 RoC 為 $x\in I$ ，則所有 $\lambda$ 須在 $I$ 之中。

極小多項式

定義

設 $A\in \mathbb{C}^{n\times n}$ ， $m(x)\in P$ 滿足:

$m(x)$ $m (x)$ 為 monic。
- 首項係數為 1
$m(A)=0$ 。
若 $f(A)=0$ ，則 $\deg(m(x))\le \deg(f(x))$ 。

稱 $m(x)$ 為 $A$ 之 minimal polynomial。

考慮所有滿足 $f(A)=0_n$ 之 monic 多項式，degree 最小者稱為 $A$ 之 minimal polynomial。
給定 $A$ ，其 minimal polynomial 唯一存在，記作 $m_A(x)$ 。

定理

設 $A$ 為 $n\times n$ matrix， $m(x)$ 為 $A$ 之 minimal polynomial。

若 $f(A)=0$ $f (A) = 0$ ，則 $m(x)\mid f(x)$ $m (x) ∣ f (x)$ 。
- 根據除法定理，若不整除則可找到餘式 degree 更小且為 0
$m(x)\mid P_A(x)$ 。
若 $\lambda\in\lambda(A)$ $λ \in λ (A)$ ，則 $(x-\lambda)\mid m(x)$ $(x - λ) ∣ m (x)$ 。
- 若 $\lambda\in\lambda(A)$ ，則 $m(\lambda)=0$ 。
若 $P_A(x)=(-1)^n(x-\lambda_1)^{m_1}\cdots(x-\lambda_r)^{m_r}$ ，則 $m(x)=(x-\lambda_1)^{k_1}\cdots(x-\lambda_r)^{k_r},\quad 1\le k_i\le m_i$