考研相關文章參考資料為 wjungle 大神提供的筆記

Ch1 矩陣與線性方程組

矩陣

定義

$A^T$ : $A$ 之 Transpose
$A^H = \overline{A}^T$ : $A$ 之 Conjugate transpose

Symmetric matrix: $A^T=A$
Skew-symmetric: $A^T=-A$
Hermitian: $A^H=A$
Skew-hermitian: $A^H=-A$

性質

$(A^T)^K = (A^K)^T$
$(A^H)^K = (A^K)^H$

定義

$tr(A)$ : A 之 Trace (對角項總和)

性質

$tr(A^T) = tr(A)$
$tr(A^H) = tr(\overline{A})$

定理

$A: m*n,~B:n*m$ , 則 $tr(AB)=tr(BA)$

反矩陣

定義

Left inverse 定義: 若 $BA=I$ ，則 $B$ 為 $A$ 的左反矩陣
Right inverse 定義: 若 $AC=I$ ，則 $C$ 為 $A$ 的右反矩陣

定理

若 $A$ 具左反 $B$ 、右反 $C$ ，則 $B=C$

定義

$A: n*n$ , 若 $\exists B: n*n \text{ s.t. } AB=I=BA$ ，稱 $B$ 為 $A$ 之 Inverse matrix (反矩陣)，且稱 $A$ 為 invertible/nonsingular

定理

$A: n*n$ 可逆，則 $A$ 之 inverse 唯一，記作 $A^{-1}$

性質

$A: n*n$ 可逆，則

$A^T$ 可逆，且 $(A^T)^{-1} = (A^{-1})^T$
$A^H$ 可逆，且 $(A^H)^{-1} = (A^{-1})^H$
$(A^K)^{-1} = (A^{-1})^K$

基本列運算

定義

$A: m*n$ , 基本列運算:

$r_{ij}(A)$ 表示交換 $A$ 的第 $i$ 列與第 $j$ 列
$r_i^{(k)}(A)$ 表示將 $A$ 的第 $i$ 列乘以 $k$ ，其中 $k\ne0$
$r_{ij}^{(k)}(A)$ 表示將 $A$ 的第 $i$ 列之 $k$ 倍加至第 $j$ 列

性質

列運算的反函數仍為列運算

$(r_{ij})^{-1}=r_{ij}$
$(r_i^{(k)})^{-1}=r_i^{(1/k)},~k\ne0$
$(r_{ij}^{(k)})^{-1}=r_{ij}^{(-k)}$

定義

Row elementary matrix (列基本矩陣): $E = r(I)$

$E$ 可逆，且 $E^{-1} = r^{-1}(I)$

定理

$A \xrightarrow{r} B$ (列運算 $r$ 將 $A$ 變為 $B$ )，且 $E=r(I)$ ，則 $B=EA$
$A \overset{r}{\sim} B$ ( $A$ 列等價於 $B$ )，則 $\exists P$ 為可逆矩陣，使得 $PA=B$

線性方程組

定義

Row echelon form: 一個 matrix 滿足以下條件
- 所有零列皆在所有非零列下方
- 每一列最左邊的非零項，在愈下方列的位置愈靠右
- 每一列最左邊的非零項為 $1$
Reduced row echelon form: 一個 Row echelon form 滿足以下條件
- 每一列最左邊的非零項 (首項為 $1$ )，其所在之行的其他元素皆為 $0$

Note

在以上型式中，非零列的最左邊非零項稱為 pivot，其所在的行稱為 pivot column
每一個 matrix 皆列等價於某個 ref
每一個 matrix 皆列等價於唯一 rref
$i$ pivot column 必為單位矩陣的 $i$ 行

定理

$[A|\vec{b}] \xrightarrow{r} [U|\vec{c}]$ ，則 $A\vec{x}=\vec{b}$ 與 $U\vec{x}=\vec{c}$ 具有相同解集合
高斯消去法即為此定理的應用: 對增廣矩陣做列運算，將其化為 ref 或 rref 以求解

定義

$A:m*n$ , 若 $A \xrightarrow{r} U$ 為 row echelon form, 則 $U$ 之非零列個數稱為 $A$ 之 rank, 記作 $rank(A)$ 或 $r(A)$

$U$ 之非零列個數 = pivot 個數

定理

$A:m*n$ , $\vec{x}:n*1$ , $\vec{b}:m*1$ , 則:

$r(A) \ne r([A|\vec{b}]) \Leftrightarrow A\vec{x}=\vec{b}$ 無解
$r(A)=r([A|\vec{b}])=n \Leftrightarrow A\vec{x}=\vec{b}$ 具唯一解
$r(A)=r([A|\vec{b}])<n \Leftrightarrow A\vec{x}=\vec{b}$ $r (A) = r ([A ∣ b]) < n \Leftrightarrow A x = b$ 具無限多解
- 其中 $n-rank(A)$ 為自由變數之個數

可逆之充要條件

可逆的等價命題

引理

$A:n*n$ , $A\vec{x}=\vec{0}$ 只有零解 $\Leftrightarrow A \overset{r}{\sim} I_n$

定理

$A:n*n$ , 則以下敘述等價:

$A$ 可逆
$A\vec{x}=\vec{0}$ 只有零解 (nonsingular)
$A \overset{r}{\sim} I_n$
$A$ 可以寫成列基本矩陣的乘積

Note

反矩陣的求法:
若 $A:n*n$ 可逆, 則 $[A|I_n] \xrightarrow{r} [I_n|A^{-1}]$

定理

$A:n*n$ , 則以下敘述等價:

$A$ 可逆
$\forall \vec{b}:n*1$ , $A\vec{x}=\vec{b}$ 具有唯一解
$\forall \vec{b}:n*1$ , $A\vec{x}=\vec{b}$ 有解

LU 分解

定義

$A=LU$ $A = L U$ : 稱為 LU decomposition
- $L$ 為 lower triangular matrix
- $U$ 為 upper triangular matrix
若將 $U$ 的非零列首項提出為對角矩陣 $D$ , 可得 $A=LDU$ , 稱為 LDU decomposition

Note

並非每個矩陣皆可作 LU decomposition
LU decomposition 通常不允許列交換, 因此高斯消去法只能用上面列加下面列的方式進行
LU decomposition 的目的: 省去高斯消去法花時間的列運算

Note

求解 $A\vec{x}=\vec{b}$

若 $A=LU$ , 則 $A\vec{x}=\vec{b} \Rightarrow L(U\vec{x})=\vec{b}$
令 $\vec{y}=U\vec{x}$ , 先解 $L\vec{y}=\vec{b}$ 求 $\vec{y}$ (forward substitution)
再解 $U\vec{x}=\vec{y}$ 求 $\vec{x}$ (back substitution)

行運算

Note

$A \xrightarrow{c} B$ (行運算 $c$ 將 $A$ 變為 $B$ ), 且 $E=c(I)$ , 則 $B=AE$
$A \overset{c}{\sim} B$ ( $A$ 行等價於 $B$ ) $\Leftrightarrow \exists Q$ 為可逆矩陣, 使得 $B=AQ$