1. はじめに:この記事の使い方
この記事は,学部レベルの線形代数(教科書1冊分)を 一記事で俯瞰する ことを目的とする.各トピックについて,定義・主要定理・証明スケッチを簡潔にまとめる.
使い方 :
初学者 → セクション順に読み進め,線形代数の全体像を掴むとよい
復習・試験対策 → 目次から必要なセクションへジャンプされたい
定理の確認 → セクション13「線形代数の定理一覧」で主要定理を一覧できる
以下の依存関係図は,各トピックがどのように繋がっているかを示す.
graph TD
A["ベクトル空間の公理"] --> B["線形独立・基底・次元"]
B --> C["線形写像"]
C --> D["行列と表現行列"]
D --> E["連立方程式と掃き出し法"]
D --> F["行列式"]
C --> G["核と像・次元定理"]
F --> H["固有値と固有ベクトル"]
D --> H
H --> I["対角化"]
A --> J["内積空間"]
B --> J
J --> K["正規直交基底・Gram-Schmidt"]
K --> L["直交射影・最小二乗法"]
H --> M["Jordan標準形"]
I --> M
style A fill:#f5f5f5,stroke:#333,color:#000
style H fill:#f5f5f5,stroke:#333,color:#000
style I fill:#f5f5f5,stroke:#333,color:#000
style M fill:#f5f5f5,stroke:#333,color:#000
2. ベクトル空間
体 K 上の ベクトル空間 (vector space)とは,集合 V に加法 + : V × V → V とスカラー倍 ⋅ : K × V → V が定義され,以下の8条件を満たすものをいう:
u + v = v + u (加法の可換性)
( u + v ) + w = u + ( v + w ) (加法の結合性)
零ベクトル 0 が存在して v + 0 = v
各 v に対し v + ( − v ) = 0 なる − v が存在
a ( b v ) = ( ab ) v (スカラー倍の結合性)
1 ⋅ v = v
a ( u + v ) = a u + a v (分配法則1)
( a + b ) v = a v + b v (分配法則2)
0 , 0 ′ がともに零ベクトルとすると 0 ′ = 0 ′ + 0 = 0 . □
(1) 0 ⋅ v = 0 (2) a ⋅ 0 = 0 (3) ( − 1 ) v = − v (4) a v = 0 ⇒ a = 0 or v = 0
基本的なベクトル空間の例 :
W ⊆ V が V の 部分空間 ⟺ (i) W = ∅ ,(ii) u , v ∈ W ⇒ u + v ∈ W ,(iii) a ∈ K , v ∈ W ⇒ a v ∈ W .
W 1 + W 2 = { w 1 + w 2 ∣ w i ∈ W i } .分解が一意のとき 直和 W 1 ⊕ W 2 と書く. W 1 + W 2 が直和 ⟺ W 1 ∩ W 2 = { 0 } .
dim ( W 1 + W 2 ) = dim W 1 + dim W 2 − dim ( W 1 ∩ W 2 ) .特に直和のとき dim ( W 1 ⊕ W 2 ) = dim W 1 + dim W 2 .
→ 詳しくは :
https://interconnectd.app/articles/XKUcVxVpm96fyiss2Hc2
3. 線形独立・基底・次元
a 1 v 1 + a 2 v 2 + ⋯ + a n v n ( a i ∈ K )を v 1 , … , v n の 線形結合 という.全線形結合の集合を span { v 1 , … , v n } と書く.
a 1 v 1 + ⋯ + a n v n = 0 ⇒ a 1 = ⋯ = a n = 0 のとき 線形独立 (linearly independent)という.線形独立でないとき 線形従属 という.
v 1 , … , v n が線形従属 ⟺ ある v k が残りの線形結合で書ける.
V を生成する線形独立なベクトルの組を V の 基底 (basis)という.基底による v = ∑ a i v i の表示は一意であり, ( a 1 , … , a n ) を 座標 という.
{ v 1 , … , v m } が V を生成し, { w 1 , … , w n } が線形独立ならば n ≤ m が成り立つ.さらに v のうち n 個を w 1 , … , w n で置き換えても V を生成する.
w 1 = ∑ c j v j ( c 1 = 0 としてよい)より v 1 を w 1 で置き換えても V を生成する. w 2 , w 3 , … について順に繰り返す. n > m ならば m ステップで v が尽き, w m + 1 が { w 1 , … , w m } の線形結合になり,線形独立性に矛盾. □
V の任意の2つの基底は同じ元数を持つ.この共通の値を V の 次元 dim V という.
dim V = n のとき:(1) n 本の線形独立ベクトルは基底をなす.(2) V を生成する n 本のベクトルは基底をなす.(3) 線形独立なベクトルは高々 n 本.
dim R n = n , dim K [ x ] ≤ n = n + 1 , dim M m × n ( K ) = mn .
→ 詳しくは :
https://interconnectd.app/articles/60CGnmYq9I4i544n0Ekf
4. 線形写像
写像 T : V → W が 線形写像 (linear map) ⟺ T ( a u + b v ) = a T ( u ) + b T ( v ) ( ∀ a , b ∈ K , ∀ u , v ∈ V ).
{ v 1 , … , v n } を V の基底とする.任意の w 1 , … , w n ∈ W に対して, T ( v i ) = w i を満たす線形写像 T : V → W がただ一つ存在する.
ker T Im T = { v ∈ V ∣ T ( v ) = 0 } (核, null space ) = { T ( v ) ∣ v ∈ V } (像, range )
ker T は V の部分空間, Im T は W の部分空間である.
( ⇒ ) v ∈ ker T ⇒ T ( v ) = 0 = T ( 0 ) .単射より v = 0 . ( ⇐ ) T ( u ) = T ( v ) ⇒ T ( u − v ) = 0 ⇒ u − v ∈ ker T = { 0 } ⇒ u = v . □
V を有限次元, T : V → W を線形写像とすると dim V = dim ker T + dim Im T
ker T の基底 { u 1 , … , u r } を V の基底 { u 1 , … , u r , v 1 , … , v s } に拡張する( r + s = dim V ). { T ( v 1 ) , … , T ( v s )} が Im T の基底であることを示せばよい. □
T : R 3 → R 2 , T ( x , y , z ) = ( x + y , y + z ) . ker T = {( t , − t , t )} ( dim = 1 ).次元定理より dim Im T = 3 − 1 = 2 ,よって T は全射.
線形写像 T が全単射のとき 同型写像 (isomorphism)という. V ≅ W ⟺ dim V = dim W (有限次元の場合).
→ 詳しくは :
https://interconnectd.app/articles/SFDhguL9ylKeZcNfUkpH
5. 行列と表現行列
V の基底 B = { v 1 , … , v n } , W の基底 C = { w 1 , … , w m } に対して T ( v j ) = ∑ i = 1 m a ij w i で定まる行列 A = ( a ij ) を 表現行列 [ T ] B C という.第 j 列は T ( v j ) の座標ベクトルである.
T : V → W , S : W → U の表現行列をそれぞれ A , B とすると [ S ∘ T ] = B A .すなわち,合成は行列の積に対応する.
B から B ′ への変換行列 P について, v j ′ = ∑ p ij v i とする.
T : V → V の基底 B に関する表現行列 A と,基底 B ′ に関する表現行列 A ′ は A ′ = P − 1 A P
の関係にある( P は B から B ′ への変換行列).
v の B 座標を x , B ′ 座標を x ′ とすると x = P x ′ . A x の B ′ 座標は P − 1 A P x ′ . □
A ′ = P − 1 A P が成り立つとき A と A ′ は 相似 (similar)という.相似な行列は同じ固有値・行列式・トレース・階数を持つ.
列階数(列ベクトルが生成する空間の次元) = 行階数(行ベクトルが生成する空間の次元).この共通の値を rank A と書く.
n 次正方行列 A について以下は同値:
A は正則(逆行列が存在)
rank A = n
det A = 0
A x = 0 の解は x = 0 のみ
A の列ベクトルは線形独立
A の RREF は I n
A , B が正則のとき ( A − 1 ) − 1 = A , ( A B ) − 1 = B − 1 A − 1 , ( A T ) − 1 = ( A − 1 ) T .
→ 詳しくは :
https://interconnectd.app/articles/zAohbXbfQH3TpM4HzSHc
6. 連立一次方程式と掃き出し法
m 個の方程式, n 個の未知数からなる連立一次方程式を A x = b ( A ∈ M m × n ( K ) )と書く.
(1) 行の交換 R i ↔ R j ,(2) 行のスカラー倍 R i → c R i ( c = 0 ),(3) 行の加法 R i → R i + c R j .いずれも解集合を変えない.
(1) 零行は下に集まる,(2) 各非零行のピボットは 1 ,(3) ピボットは上の行ほど左,(4) ピボット列ではピボット以外 0 .任意の行列は行基本変形で一意な RREF に変換できる.
A x = 0 の解全体 ker A は K n の部分空間で, dim ker A = n − rank A .
A x = b が解 x 0 を持つとき,一般解は x = x 0 + ker A = { x 0 + h ∣ A h = 0 }
(特殊解 + 斉次方程式の一般解)
A x = b かつ A x 0 = b ならば A ( x − x 0 ) = 0 ,すなわち x − x 0 ∈ ker A .逆も成立する. □
n 元連立方程式 A x = b について:
解が存在 ⟺ rank A = rank ( A ∣ b )
解が存在するとき一意 ⟺ rank A = n (自由変数なし)
解が存在するとき,自由変数は n − rank A 個
( 1 1 1 2 1 3 ) x = ( 3 6 ) の RREF は ( 1 0 0 1 − 1 2 ) .自由変数 x 3 = t .一般解: x = ( t , 3 − 2 t , t ) T = ( 0 , 3 , 0 ) T + t ( 1 , − 2 , 1 ) T .
→ 詳しくは :
https://interconnectd.app/articles/fPFgeQ8fyAACO9Mc97LU
7. 行列式
n 次正方行列 A = ( a ij ) の行列式を det A = σ ∈ S n ∑ sgn ( σ ) i = 1 ∏ n a i , σ ( i )
と定義する( S n は n 次置換全体, sgn ( σ ) は置換の符号).
n = 2 : det ( a c b d ) = a d − b c .幾何的には列ベクトルが作る平行四辺形の符号付き面積.
多重線形性 :各行について線形
交代性 :2行を入れ替えると符号が変わる
正規化 : det I n = 1
2行が等しい ⇒ det A = 0
行に別の行のスカラー倍を加えても det 不変
det A T = det A
( i , j ) 余因子 a ~ ij = ( − 1 ) i + j M ij ( M ij は第 i 行・第 j 列を除いた小行列式).
第 i 行展開: det A = ∑ j = 1 n a ij a ~ ij .第 j 列展開: det A = ∑ i = 1 n a ij a ~ ij .
A = 2 0 1 1 − 1 0 3 2 1 の第1行展開: det A = 2 ( − 1 ) − 1 ( − 2 ) + 3 ( 1 ) = 3 .
det A = 0 のとき rank ( A B ) < n より det ( A B ) = 0 . det A = 0 のとき A を基本行列の積として書き,各ステップで基本性質から確認する. □
A が正則 ⟺ det A = 0 .正則のとき det ( A − 1 ) = ( det A ) − 1 .
A が n 次正則行列のとき, A x = b の解は x i = det A i / det A ( A i : A の第 i 列を b で置換).
A − 1 = d e t A 1 A ~ T ( A ~ T は余因子行列の転置).
→ 詳しくは :
https://interconnectd.app/articles/B0R3lVqKSiEkgbhijeP5
8. 固有値と固有ベクトル
A v = λ v ( v = 0 )を満たす λ ∈ K を 固有値 (eigenvalue), v を 固有ベクトル (eigenvector)という.
V λ = ker ( A − λ I ) = { v ∣ A v = λ v } を固有値 λ の 固有空間 という. V λ は部分空間である.
p A ( λ ) = det ( A − λ I ) = ( − 1 ) n λ n + ( − 1 ) n − 1 ( tr A ) λ n − 1 + ⋯ + det A
det ( P − 1 A P − λ I ) = det ( P − 1 ( A − λ I ) P ) = det ( A − λ I ) . □
λ 0 の 代数的重複度 : p A ( λ ) における ( λ − λ 0 ) の重複度. λ 0 の 幾何的重複度 : dim V λ 0 .常に 1 ≤ 幾何的 ≤ 代数的.
A = ( 2 0 1 2 ) :固有値 λ = 2 (代数的重複度 2 ), V 2 = span {( 1 , 0 ) T } (幾何的重複度 1 ).
λ 1 , … , λ k が互いに異なる固有値のとき,対応する固有ベクトル v 1 , … , v k は線形独立である.
k に関する帰納法. ∑ c i v i = 0 に A を作用させ, λ k 倍を引くと ∑ i = 1 k − 1 c i ( λ i − λ k ) v i = 0 .帰納法の仮定と λ i = λ k より c i = 0 . □
λ 1 , … , λ n (重複込み)について: tr A = ∑ λ i , det A = ∏ λ i .
A を n 次正方行列, p A ( λ ) をその固有多項式とすると p A ( A ) = O .
A = ( 1 3 2 4 ) : p A ( λ ) = λ 2 − 5 λ − 2 . A 2 − 5 A − 2 I = O を直接計算で確認できる.
→ 詳しくは :
https://interconnectd.app/articles/vXx2Iljso5pFnzgU1q4G
9. 対角化
正則行列 P が存在して P − 1 A P = diag ( λ 1 , … , λ n ) が対角行列になるとき, A は 対角化可能 という.
以下は同値:
A が対角化可能
A が n 個の線形独立な固有ベクトルを持つ
すべての固有値 λ i について,幾何的重複度 = 代数的重複度
( 1 ⇔ 2 ) : P − 1 A P = D ⟺ A P = P D ⟺ P の列ベクトルが固有ベクトル. P 正則 ⟺ 列が線形独立. □
対角化の手順 :
p A ( λ ) = det ( A − λ I ) = 0 を解いて固有値を求める
各 λ i に対して ker ( A − λ i I ) の基底(固有ベクトル)を求める
幾何的重複度 = 代数的重複度を確認(不一致なら対角化不可能)
固有ベクトルを並べた行列 P を構成し D = P − 1 A P
A = ( 4 1 − 2 1 ) : p A = ( λ − 2 ) ( λ − 3 ) , v 1 = ( 1 , 1 ) T ( λ = 2 ), v 2 = ( 2 , 1 ) T ( λ = 3 ). P = ( 1 1 2 1 ) , P − 1 A P = ( 2 0 0 3 ) .
A n の計算: A = P D P − 1 ⇒ A n = P D n P − 1 = P diag ( λ 1 n , … , λ k n ) P − 1 .
K = C のとき,任意の正方行列はユニタリ行列で上三角化できる.対角化不能でも三角化は常に可能.
→ 詳しくは :
https://interconnectd.app/articles/p0FjbW7wXEElVP6KQBpE
10. 内積空間と正規直交基底
実ベクトル空間 V 上の写像 ⟨ ⋅ , ⋅ ⟩ : V × V → R が 内積 であるとは,(1) 対称性 ⟨ u , v ⟩ = ⟨ v , u ⟩ ,(2) 第一引数の線形性,(3) 正定値性 ⟨ v , v ⟩ ≥ 0 (等号 ⟺ v = 0 )を満たすことをいう.
内積の例 :
R n の標準内積: ⟨ x , y ⟩ = ∑ x i y i = x T y
関数空間: ⟨ f , g ⟩ = ∫ a b f ( x ) g ( x ) d x
行列空間: ⟨ A , B ⟩ = tr ( A T B )
∥ v ∥ = ⟨ v , v ⟩ (ノルム). ⟨ u , v ⟩ = 0 のとき u ⊥ v (直交).
∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ⋅ ∥ v ∥ .等号は u , v が線形従属のとき.
v = 0 のとき, 0 ≤ ∥ u − t v ∥ 2 = ∥ u ∥ 2 − 2 t ⟨ u , v ⟩ + t 2 ∥ v ∥ 2 に t = ⟨ u , v ⟩ /∥ v ∥ 2 を代入して整理する. □
⟨ e i , e j ⟩ = δ ij を満たす基底 { e 1 , … , e n } を 正規直交基底 (ONB)という.ONB では v = ∑ ⟨ v , e i ⟩ e i (座標が内積で求まる).
線形独立な { v 1 , … , v n } から正規直交系 { e 1 , … , e n } を構成する手続き: u k = v k − j = 1 ∑ k − 1 ⟨ v k , e j ⟩ e j , e k = u k /∥ u k ∥
span { e 1 , … , e k } = span { v 1 , … , v k } が各 k で成り立つ.
v 1 = ( 1 , 1 , 0 ) T , v 2 = ( 1 , 0 , 1 ) T の正規直交化: e 1 = 2 1 ( 1 , 1 , 0 ) T . u 2 = v 2 − ⟨ v 2 , e 1 ⟩ e 1 = ( 1/2 , − 1/2 , 1 ) T . e 2 = u 2 /∥ u 2 ∥ .
有限次元内積空間 V の部分空間 W に対して V = W ⊕ W ⊥ , dim W ⊥ = dim V − dim W , ( W ⊥ ) ⊥ = W .
v = w + w ⊥ ( w ∈ W , w ⊥ ∈ W ⊥ )における w = proj W ( v ) を 正射影 という.ONB { e 1 , … , e k } を用いて proj W ( v ) = ∑ i = 1 k ⟨ v , e i ⟩ e i .
proj W ( v ) は W の中で v に最も近い点: ∥ v − proj W ( v ) ∥ ≤ ∥ v − w ∥ ( ∀ w ∈ W ).
∥ v − w ∥ 2 = ∥ v − v ^ ∥ 2 + ∥ v ^ − w ∥ 2 ( v − v ^ ⊥ v ^ − w による). ∥ v ^ − w ∥ 2 ≥ 0 より ∥ v − w ∥ ≥ ∥ v − v ^ ∥ . □
A x = b が解を持たないとき,最小二乗解は A T A x ^ = A T b を満たす.
→ 詳しくは :
https://interconnectd.app/articles/e6ZGri5uX6HtpARWpe5a
11. Jordan 標準形
J k ( λ ) = λ O 1 λ ⋱ ⋱ O 1 λ ∈ M k ( K )
対角成分 λ ,上対角成分 1 ,他は 0 . J 1 ( λ ) = ( λ ) は対角成分に相当.
λ の代数的重複度 m に対して W λ = ker ( A − λ I ) m ( dim W λ = m ).通常の固有空間 V λ = ker ( A − λ I ) は W λ の部分空間.
A の相異なる固有値を λ 1 , … , λ s とすると K n = W λ 1 ⊕ ⋯ ⊕ W λ s .
K = C のとき,任意の n 次正方行列 A に対してある正則行列 P が存在して P − 1 A P = diag ( J k 1 ( λ 1 ) , J k 2 ( λ 2 ) , … , J k r ( λ r ))
Jordan 細胞の順序を除いて一意に定まる.
p A ( λ ) = ( λ − 2 ) 3 ( λ − 5 ) で dim V 2 = 2 , dim V 5 = 1 のとき,固有値 2 の Jordan 細胞は J 2 ( 2 ) と J 1 ( 2 ) ,固有値 5 は J 1 ( 5 ) .
A を零化する最小次数のモニック多項式 m A ( λ ) . m A は p A を割り切り,同じ根を持つ.
A が対角化可能 ⟺ m A ( λ ) が重根を持たない.最小多項式は m A ( λ ) = ∏ i ( λ − λ i ) k i ( k i = 固有値 λ i の最大 Jordan 細胞サイズ).
e t J k ( λ ) = e λ t 1 0 ⋮ 0 0 t 1 ⋯ ⋯ t 2 /2 ! t ⋱ ⋯ ⋯ ⋱ 1 0 t k − 1 / ( k − 1 )! t k − 2 / ( k − 2 )! ⋮ t 1
J k ( λ ) = λ I + N ( N k = O )と分解し, e t J k ( λ ) = e λ t e tN (有限和).
A = ( 2 0 1 2 ) = J 2 ( 2 ) のとき e t A = e 2 t ( 1 0 t 1 ) .連立微分方程式 x ′ = A x , x ( 0 ) = ( 1 , 1 ) T の解は x ( t ) = e 2 t ( 1 + t , 1 ) T .
→ 詳しくは :
https://interconnectd.app/articles/6tjBgFeqG4JrwZrezpjk
12. 線形代数の全体像
graph LR
A["ベクトル空間<br/>8公理"] --> B["基底・次元<br/>Steinitz"]
B --> C["線形写像<br/>次元定理"]
C --> D["行列<br/>表現行列"]
D --> E["行列式<br/>積公式"]
E --> F["固有値<br/>固有多項式"]
F --> G["対角化<br/>A = PDP⁻¹"]
G --> H["Jordan標準形<br/>一般化固有空間"]
B --> I["内積空間<br/>Gram-Schmidt"]
I --> J["射影・最小二乗法"]
style A fill:#f5f5f5,stroke:#333,color:#000
style F fill:#f5f5f5,stroke:#333,color:#000
style H fill:#f5f5f5,stroke:#333,color:#000
13. 線形代数の定理一覧
学部線形代数で登場する主要定理の一行サマリーである.
零ベクトルの一意性 : 0 は一意に定まる
Steinitz 交換定理 :線形独立系の元数 ≤ 生成系の元数
基底の元数の一致 :任意の2つの基底は同じ元数
次元公式 : dim ( W 1 + W 2 ) = dim W 1 + dim W 2 − dim ( W 1 ∩ W 2 )
次元定理 : dim V = dim ker T + dim Im T
列階数= 行階数 : rank の well-definedness
行列式の積公式 : det ( A B ) = det A ⋅ det B
余因子展開 : det A = ∑ j a ij a ~ ij
クラメルの公式 : x i = det A i / det A
異なる固有値の固有ベクトルの線形独立性
ケーリー・ハミルトンの定理 : p A ( A ) = O
対角化条件 :幾何的重複度 = 代数的重複度(全固有値)
Cauchy-Schwarz の不等式 : ∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥∥ v ∥
Gram-Schmidt の正規直交化法
最良近似定理 :正射影 = 最近点
正規方程式 : A T A x ^ = A T b
さらに構造論的な結果として:
Schur の三角化定理 :ユニタリ行列で上三角化可能( C 上)
Jordan 標準形の存在と一意性 :Jordan 細胞に相似( C 上)
最小多項式と対角化 : m A が重根なし ⟺ 対角化可能
14. 付録:記号と用語一覧
記号
読み
意味
K
体
通常 R または C
V , W
ベクトル空間
8公理を満たす集合
dim V
V の次元
基底の元数
span { v 1 , … , v n }
生成
全線形結合の集合
W 1 ⊕ W 2
直和
分解が一意な和空間
T : V → W
線形写像
加法とスカラー倍を保存する写像
ker T
核
T ( v ) = 0 なる v 全体
Im T
像
T ( v ) 全体
[ T ] B C
表現行列
基底 B , C に関する T の行列
rank A
階数
列(行)の生成する空間の次元
det A
行列式
置換による定義
tr A
トレース
対角成分の和 = ∑ λ i
A T
転置
( A T ) ij = A ji
A − 1
逆行列
A A − 1 = A − 1 A = I
p A ( λ )
固有多項式
det ( A − λ I )
V λ
固有空間
ker ( A − λ I )
W λ
一般化固有空間
ker ( A − λ I ) m
⟨ u , v ⟩
内積
対称・線形・正定値
∥ v ∥
ノルム
⟨ v , v ⟩
u ⊥ v
直交
⟨ u , v ⟩ = 0
W ⊥
直交補空間
W と直交するベクトル全体
proj W ( v )
正射影
v の W への最近点
J k ( λ )
Jordan 細胞
λ I + N (N は冪零)
m A ( λ )
最小多項式
A を零化する最小次数モニック多項式
e A
行列指数関数
∑ A k / k !