考研相關文章參考資料為 wjungle 大神提供的筆記
Ch3 向量空間
定義
定義
V=∅, F 為 field。若在 V 上定義二元運算:
向量加法 +:V×V→V
純量積 ⋅:F×V→V
且滿足以下公設:
封閉性
- ∀u,v∈V, u+v∈V
- ∀c∈F, ∀v∈V, cv∈V
交換、結合律
- ∀u,v∈V, u+v=v+u
- ∀u,v,w∈V, (u+v)+w=u+(v+w)
零元素、反元素
- ∃0∈V 使得 ∀v∈V, v+0=v
- ∀v∈V, ∃−v∈V 使得 v+(−v)=0
分配律
- ∀c∈F, ∀u,v∈V, c(u+v)=cu+cv
- ∀c,d∈F, ∀v∈V, (c+d)v=cv+dv
結合律-純量積
- ∀c,d∈F, ∀v∈V, c(dv)=(cd)v
單位元素
- ∀v∈V, 1v=v
則稱 V 為一個 vector space over F。
常見的向量空間
歐氏空間 (Euclidean space)
V=Fn={(x1,x2,⋯,xn)∣x1,x2,⋯,xn∈F}。
其向量加法與純量積定義為:
- (x1,x2,⋯,xn)+(y1,y2,⋯,yn)=(x1+y1,x2+y2,⋯,xn+yn)
- c(x1,x2,⋯,xn)=(cx1,cx2,⋯,cxn)
矩陣空間
V=Fm×n={A∣A 為 m×n matrix over F}。
其向量加法為矩陣加法,純量積為矩陣純量積。
多項式空間
V=P={p∣p 為係數在 F 中的 polynomial}。
例如:
- p(x)=2+3x+4x2, deg(p)=2
- q(x)=5−6x+3x2+4x3, deg(q)=3
其向量加法與純量積定義為:
- (p+q)(x)=p(x)+q(x)
- (cp)(x)=cp(x)
n 次多項式空間
V=Pn={p∈P∣deg(p)≤n}。
也就是所有次數不超過 n 的多項式所成的向量空間。
函數空間
V=F(D,F)={f∣f:D→F 為 function}。
其向量加法與純量積定義為:
- (f+g)(x)=f(x)+g(x)
- (cf)(x)=cf(x)
連續函數空間
V=C[a,b]={f∣f:[a,b]→F 為 continuous function}。
C[a,b] 是函數空間 F([a,b],F) 的一個常見子空間。
子空間
定義
已知 (V,+,⋅) 為 vector space。若:
- W⊆V
- (W,+,⋅) 本身也是
vector space
則稱 W 為 V 的 subspace,記作 W⊆sV。
定理
已知 V 為 vector space,W⊆V,且 W=∅。則以下條件等價:
- W⊆sV
- W 對向量加法與純量積封閉:
- ∀u,v∈W, u+v∈W
- ∀c∈F, ∀v∈W, cv∈W
- ∀c,d∈F, ∀u,v∈W, cu+dv∈W
- ∀c∈F, ∀u,v∈W, cu+v∈W
Note
判斷 W 是否為 V 的子空間時,不必重新檢查 vector space 的 10 條公設。因為 V 已經滿足這些公設,只需要確認:
- W⊆V
- W=∅
- W 對向量加法與純量積封閉
子空間的必要條件:
若 W⊆sV,則:
- 0∈W
- ∀u,v∈W, u−v∈W
- ∀v∈W, −v∈W
其中 0∈W 很重要:
- 若 0∈/W,則 W 不是子空間。
- 若 0∈W,仍不能直接判定 W 是子空間,還需要檢查封閉性。
Note
R2 的 subspace 有三種類型:
- {(0,0)}={0}:
zero space
- R2: 整個空間本身
- 通過原點的一條直線
定理
若 W1,W2⊆sV,則 W1∩W2⊆sV
Note
若 W1,W2⊆sV,通常 W1∪W2 不一定是 V 的子空間。
反例: 令 V=R2,
W1={(x,0)∣x∈R},W2={(0,y)∣y∈R}。
則 W1⊆sV 且 W2⊆sV,但是:
- (1,0)∈W1⊆W1∪W2
- (0,1)∈W2⊆W1∪W2
- (1,0)+(0,1)=(1,1)∈/W1∪W2
所以 W1∪W2 對向量加法不封閉,故 W1∪W2 不是子空間。
定理
若 W1,W2⊆sV,則:
W1∪W2⊆sV⟺W1⊆W2 or W2⊆W1
和空間
定義
若 W1,W2⊆sV,定義:
W1+W2={w1+w2∣w1∈W1,w2∈W2}。
稱 W1+W2 為 W1 與 W2 的 sum space。
定理
若 W1,W2⊆sV,則 W1+W2⊆sV
四大空間
定義
令 A 為 m×n matrix,定義四個基本子空間:
- ker(A)={x∈Fn×1∣Ax=0},稱為 A 的
kernel/null space
- Lker(A)={x∈F1×m∣xA=0},稱為 A 的
left kernel
- CS(A)={Ax∣x∈Fn×1},稱為 A 的
column space
- RS(A)={xA∣x∈F1×m},稱為 A 的
row space
定理
若 A∈Fm×n,則:
- ker(A)⊆sFn×1
- Lker(A)⊆sF1×m
- CS(A)⊆sFm×1
- RS(A)⊆sF1×n
Note
矩陣乘積對四大空間的影響:
- ker(B)⊆ker(AB)。若 A 為 nonsingular,則 ker(B)=ker(AB)。
- Lker(A)⊆Lker(AB)。
- CS(AB)⊆CS(A)。若 B 為可逆,則 CS(AB)=CS(A)。
- RS(AB)⊆RS(B)。
列運算與行運算對四大空間的影響:
- 若 A∼rB,則 ker(A)=ker(B) 且 RS(A)=RS(B)。
- 若 A∼cB,則 Lker(A)=Lker(B) 且 CS(A)=CS(B)。
生成與線性獨立
定義
設 S=∅ 且 S⊆V。若
- S 中任意有限個向量為 v1,v2,…,vk
- F 中任意有限個純量為 a1,a2,…,ak
則 v=a1v1+a2v2+⋯+akvk 稱為 S 的一個 linear combination。
定義
設 S⊆V,定義 span(S) 是 S 中所有 linear combination 所成的集合,稱為 S 之 span。
定理
若 A∼rB,則 A 與 B 之行向量的線性組合關係式不變。
Note
- span(S)⊆sV
- span(S) 為包含 S 的最小子空間。
- S⊆sV⟺span(S)=S
- 定義 span(∅)={0},且 {0}=∅。
- 若 S1⊆S2,則 span(S1)⊆span(S2)。
- span({0})={0}。
定理
若 W1=span(S1),W2=span(S2),則 W1+W2=span(S1∪S2)
推廣: 若 Wi=span(Si),i=1,…,k,則 W1+W2+⋯+Wk=span(S1∪S2∪⋯∪Sk)
獨立 & 相依
定義
設 S=∅ 且 S⊆V。
-
linearly dependent (LD): 存在 v1,v2,…,vk∈S,以及不全為 0 的純量 c1,c2,…,ck∈F,使得 c1v1+c2v2+⋯+ckvk=0。
-
linearly independent (LI): 對任意 v1,v2,…,vk∈S,若 c1v1+c2v2+⋯+ckvk=0 則 c1=c2=⋯=ck=0。
Note
- 若 S1⊆S2,且 S2 為 LI,則 S1 為 LI。
- 若 S1⊆S2,且 S1 為 LD,則 S2 為 LD。
- 若 0∈S,則 S 為 LD。
- 若 v=0,則 {v} 為 LI。
- ∅ 為 LI。
特別地:
- {0} 為 LD。
- {v} 為 LI,若 v=0。
定義
設 f1,f2,…,fn∈Cn−1[a,b] (n−1 次可微),定義
W(x)=
\begin{vmatrix}
f_1 & f_2 & \cdots & f_n \\\
f_1' & f_2' & \cdots & f_n' \\\
\vdots & \vdots & \ddots & \vdots \\\
f_1^{(n-1)} & f_2^{(n-1)} & \cdots & f_n^{(n-1)}
\end{vmatrix}
稱其為 f1,f2,…,fn 之 Wronskian。
定理
若 W(x) 不是 zero function,則 f1,f2,…,fn 為 LI。
- 存在 x0∈[a,b] 使得 W(x0)=0
Note
若 W(x)=0,不一定可推出 f1,f2,…,fn 為 LD。
反例: 在 [−1,1] 上令 f1(x)=x2, f2(x)=x∣x∣,則 W(x)=0 但 f1,f2 為 LI。
基底與維度
定義
設 S⊆V。若 S 滿足:
- S 生成 V,也就是 span(S)=V
- S 為 LI
則稱 S 為 V 的一組 basis。
Note
- 基底未必唯一。
- 但 V 之每一組
basis 中向量的個數必唯一,稱為 V 的 dimension,記作 dim(V)。
定理
若 β={v1,…,vn} 為 V 的一組 basis,則對任意 v∈V,v 可唯一寫成 β 中向量的 LC。
定理
生成裁減: 已知 S 生成 V,若 S 不獨立,則存在 u∈S,使得 S−{u} 仍生成 V。
定理
獨立擴增: 已知 S 為 LI,若 S 不生成 V,則存在 u∈/S,使得 S∪{u} 仍為 LI。
- 取 u∈/span(S)
Note
判斷基底的良好工具:
- 若 S 生成 V,且 S′ 為 LI,則 ∣S′∣≤∣S∣。
- 基底可視為
最小生成集且最大獨立集。
- 若 dim(V)=n,則:
- S 生成 V ⇒∣S∣≥n
- S 為 LI ⇒∣S∣≤n
- ∣S∣<n ⇒S 不生成 V
- ∣S∣>n ⇒S 為 LD
- 若 dim(V)=n=∣S∣,則:
- S 生成 V ⇒S 為 V 的一組
basis
- S 為 LI ⇒S 為 V 的一組
basis
Note
令 A:m×n,且 A=[a1,…,an]=⎣⎢⎢⎡A1⋮Am⎦⎥⎥⎤。
- CS(A)=span{a1,…,an}
- RS(A)=span{A1,…,Am}
Note
令 A:n×n。以下條件彼此等價:
- A 可逆。
- Ax=0⇒x=0。
- ker(A)={0},也就是 dim(ker(A))=0。
- A 的行向量 a1,…,an 為 LI。
- A 的行向量形成 Fn×1 的一組
basis。
- A 的行向量生成 Fn×1,也就是 CS(A)=Fn×1。
- dim(CS(A))=n。
同理,從非主流角度看也有以下等價條件:
- xA=0⇒x=0。
- Lker(A)={0},也就是 dim(Lker(A))=0。
- A 的列向量為 LI。
- A 的列向量形成 F1×n 的一組
basis。
- A 的列向量生成 F1×n,也就是 RS(A)=F1×n。
- dim(RS(A))=n。
定理
若 W⊆sV,則 W=V⟺dim(W)=dim(V)
定理
若 W1,W2⊆sV,則 dim(W1+W2)=dim(W1)+dim(W2)−dim(W1∩W2)
直和
定義
設 W1,W2⊆sV。若滿足:
- V=W1+W2
- W1∩W2={0}
則稱 W1,W2 形成 V 之一 direct sum,記作 V=W1⊕W2
範例
令 V=Rn×n,並定義 W1={A∈V∣AT=A},W2={A∈V∣AT=−A},證明 V=W1⊕W2。
Step1
證明 V=W1+W2: 對任意 A∈V,令:
B=2A+AT,C=2A−AT
則:
A=B+C=2A+AT+2A−AT
且:
BT=(2A+AT)T=2AT+A=B
CT=(2A−AT)T=2AT−A=−C
所以 B∈W1,C∈W2,故 V=W1+W2。
Step2
證明 W1∩W2={0}
若 A∈W1∩W2,則 AT=A 且 AT=−A,因此 A=−A,得到 2A=0,所以 A=0。
因此 W1∩W2={0},故: V=W1⊕W2
定義
設 W1,…,Wk⊆sV。若滿足:
- V=W1+⋯+Wk
- Wi∩∑j=iWj={0},對所有 i=1,…,k
則稱 W1,…,Wk 形成 V 之一 direct sum,記作 V=W1⊕⋯⊕Wk
定理
W1,…,Wk 為 independent subspace ⟺dim(W1+⋯+Wk)=dim(W1)+⋯+dim(Wk)
Note
若 V=W1⊕⋯⊕Wk,且 βi 為 Wi 的一組 basis,則 β=β1∪⋯∪βk 為 V 的一組 basis。
- 一般的 W1+⋯+Wk 只保證生成,不一定 LI;只有在
direct sum 時,基底聯集才會形成整個空間的基底。