1. 動機 — なぜ直交対角化か
第10章で内積空間の理論を、第11章でJordan標準形を学んだ。Jordan標準形は任意の行列に対して存在するが、基底変換に用いる行列Pは一般に直交行列でも ユニタリ行列でもない。一方、内積空間では正規直交基底(orthonormal basis)が自然な基底であり、基底変換はできれば直交行列(ユニタリ行列)で行いたい。
では、どのような行列が直交行列によって対角化可能なのだろうか。一般の行列では、対角化すら不可能な場合がある。しかし、実対称行列(real symmetric matrix)という重要なクラスでは、常に直交行列による対角化が可能であり、しかも固有値はすべて実数になる。これが本章の主題であるスペクトル定理(spectral theorem)である。
スペクトル定理は線形代数の中で最も美しい定理のひとつであり、二次形式の理論、微分方程式、量子力学、統計学の主成分分析など、数学と物理学の広範な分野で基本的な役割を果たす。
2. 随伴作用素と自己随伴作用素
2.1. 随伴作用素の定義
V を有限次元内積空間、T:V→V を線形作用素とする。V 上の線形作用素 T∗ が T の随伴作用素(adjoint operator)であるとは、すべての u,v∈V に対して ⟨T(u),v⟩=⟨u,T∗(v)⟩
が成り立つことをいう。
有限次元内積空間では、随伴作用素は常に一意に存在する。正規直交基底に関するTの表現行列がAのとき、T∗の表現行列はAˉT(共役転置、A∗とも書く)である。実内積空間ではT∗の表現行列は単にATとなる。
線形作用素 T が自己随伴(self-adjoint)であるとは、T∗=T、すなわちすべての u,v∈V に対して ⟨T(u),v⟩=⟨u,T(v)⟩
が成り立つことをいう。実内積空間では対称(symmetric)、複素内積空間ではエルミート(Hermitian)ともいう。
行列の言葉では、実行列Aが対称であるとはAT=Aのことであり、複素行列AがエルミートであるとはA∗=AˉT=Aのことである。
行列 A=(2−1−13)
は AT=A を満たすので実対称行列である。一方、 B=(1324)
は BT=B なので対称行列ではない。
2.2. 自己随伴作用素の基本性質
T を内積空間 V 上の自己随伴作用素とし、λ を T の固有値、v=0 を対応する固有ベクトルとする。このとき λ⟨v,v⟩=⟨λv,v⟩=⟨T(v),v⟩=⟨v,T(v)⟩=⟨v,λv⟩=λˉ⟨v,v⟩.
v=0 より ⟨v,v⟩>0 であるから、λ=λˉ が得られる。したがって λ は実数である。 □
自己随伴作用素の異なる固有値に属する固有ベクトルは互いに直交する。
T を自己随伴作用素とし、λ1=λ2 を T の異なる固有値、v1,v2 をそれぞれ対応する固有ベクトルとする。定理4より λ1,λ2∈R である。このとき λ1⟨v1,v2⟩=⟨T(v1),v2⟩=⟨v1,T(v2)⟩=λ2⟨v1,v2⟩.
よって (λ1−λ2)⟨v1,v2⟩=0 である。λ1=λ2 なので ⟨v1,v2⟩=0、すなわち v1⊥v2 である。 □
3. 実対称行列のスペクトル定理
本節で本章の主定理を述べ、証明する。
A を n 次実対称行列とする。このとき、直交行列 P(すなわち PTP=I)が存在して PTAP=D=diag(λ1,λ2,…,λn)
と対角化できる。ここで λ1,…,λn は A の固有値(重複を込めて)であり、すべて実数である。P の列ベクトルは A の固有ベクトルからなる Rn の正規直交基底を与える。
証明には次の補題が必要である。
A を n 次実対称行列、W を A に関する不変部分空間(すなわち Aw∈W がすべての w∈W に対して成り立つ)とする。このとき W の直交補空間 W⊥ も A に関して不変である。
u∈W⊥ とする。任意の w∈W に対して Au∈W⊥ を示せばよい。A は対称なので AT=A であり、 ⟨Au,w⟩=wT(Au)=(ATw)Tu=(Aw)Tu=⟨u,Aw⟩.
W は A-不変なので Aw∈W であり、u∈W⊥ より ⟨u,Aw⟩=0 である。したがって ⟨Au,w⟩=0 がすべての w∈W に対して成り立つので、Au∈W⊥ である。 □
n 次実対称行列の固有多項式は R 上で完全に一次因子に分解する。すなわち、すべての固有値は実数であり、重複度を込めて n 個存在する。
A を n 次実対称行列とする。A は複素数体上でも行列であるから、代数学の基本定理より複素固有値 λ が存在する。λ に属する(複素)固有ベクトル v∈Cn∖{0} をとる。Cn の標準エルミート内積 ⟨x,y⟩=yˉTx に関して、 λ⟨v,v⟩=⟨Av,v⟩=vˉTAv.
A は実対称行列なので A∗=AˉT=AT=A であるから、 ⟨Av,v⟩=vˉTAv=vTATvˉ=vTAvˉ=⟨Avˉ,vˉ⟩.
ここで A は実行列なので Avˉ=Av=λˉvˉ であり、 ⟨Avˉ,vˉ⟩=λˉ⟨vˉ,vˉ⟩=λˉ∥v∥2.
一方 ⟨Av,v⟩=λˉ∥v∥2 であるから、λ∥v∥2=λˉ∥v∥2 が得られる。v=0 より λ=λˉ、すなわち λ∈R である。固有多項式は n 次実多項式であり、複素固有値はすべて実数であるから、R 上で完全に一次因子に分解する。 □
n に関する帰納法で証明する。基底段階:n=1 のとき A=(λ1) であり、P=(1) とすれば自明に成り立つ。帰納段階:n−1 次以下の実対称行列に対して定理が成り立つと仮定する。A を n 次実対称行列とする。補題9より、A は実固有値 λ1 をもつ。対応する固有ベクトル v1 で ∥v1∥=1 なるものをとる。W1=span{v1} とおくと、W1 は A-不変な1次元部分空間である。補題8より、W1⊥ も A-不変であり、dimW1⊥=n−1 である。W1⊥ の正規直交基底 {e2,…,en} を選び、A の W1⊥ への制限 A∣W1⊥ の表現行列を A′ とする。A′ は (n−1) 次実対称行列である(A の対称性が制限にも遺伝するため)。帰納法の仮定より、(n−1) 次直交行列 P′ が存在して P′TA′P′=D′ は対角行列である。P′ の列ベクトルを u2,…,un とすると、wj=∑k=2n(P′)k−1,j−1ek (j=2,…,n) は W1⊥ の正規直交基底であり、A の固有ベクトルである。P=(v1∣w2∣⋯∣wn) とおくと、{v1,w2,…,wn} は Rn の正規直交基底であるから P は直交行列であり、 PTAP=diag(λ1,λ2,…,λn)
が成り立つ。 □
行列 A=(0110) は実対称行列である。固有多項式は λ2−1=(λ−1)(λ+1) であり、固有値は λ1=1, λ2=−1 である。正規化された固有ベクトルは v1=21(11),v2=21(1−1)
であり、確かに ⟨v1,v2⟩=0 で直交している。直交行列
により PTAP=diag(1,−1) が成り立つ。
4. 正規作用素とユニタリ対角化
実対称行列のスペクトル定理は、複素数体上ではより広いクラスの行列に一般化できる。
複素正方行列 A が正規(normal)であるとは、A∗A=AA∗ が成り立つことをいう。ここで A∗=AˉT は共役転置である。同様に、内積空間上の線形作用素 T が正規であるとは T∗T=TT∗ が成り立つことをいう。
以下はすべて正規行列である:
エルミート行列(A∗=A):A∗A=A2=AA∗。
ユニタリ行列(A∗=A−1):A∗A=I=AA∗。
歪エルミート行列(A∗=−A):A∗A=−A2=AA∗。
一般の例として A=(1ii1) は A∗=(1−i−i1) であり、A∗A=AA∗=(2002) なので正規である。
有限次元内積空間 V 上の線形作用素 T が正規であるための必要十分条件は、すべての v∈V に対して ∥T(v)∥=∥T∗(v)∥ が成り立つことである。
T が正規、すなわち T∗T=TT∗ であるとする。任意の v∈V に対して ∥T(v)∥2=⟨T(v),T(v)⟩=⟨T∗T(v),v⟩=⟨TT∗(v),v⟩=⟨T∗(v),T∗(v)⟩=∥T∗(v)∥2.
逆に、すべての v に対して ∥T(v)∥=∥T∗(v)∥ が成り立つとする。これは ⟨(T∗T−TT∗)v,v⟩=0 がすべての v に対して成り立つことを意味する。S=T∗T−TT∗ は自己随伴(S∗=(T∗T)∗−(TT∗)∗=T∗T−TT∗=S)であるから、自己随伴作用素に対して ⟨Sv,v⟩=0 がすべての v に対して成り立てば S=O である。実際、任意の u,w に対して v=u+w と v=u−w を代入して引けば ⟨Su,w⟩+⟨Sw,u⟩=0 が得られ、S の自己随伴性から 2Re⟨Su,w⟩=0 となる。複素内積空間では w を iw に置き換えれば虚部も 0 となり、⟨Su,w⟩=0 がすべての u,w に対して成り立つ。よって S=O、すなわち T∗T=TT∗ である。 □
A を n 次正規行列(A∗A=AA∗)とする。このとき、ユニタリ行列 U(すなわち U∗U=I)が存在して U∗AU=diag(λ1,λ2,…,λn)
と対角化できる。逆に、ユニタリ対角化可能な行列は正規である。
n に関する帰納法で証明する。n=1 は自明である。n≥2 とし、n−1 次以下で定理が成り立つと仮定する。代数学の基本定理より A は C 上の固有値 λ1 をもつ。正規化された固有ベクトル v1(∥v1∥=1)をとる。W=span{v1} とおく。W⊥ が A-不変であることを示す。u∈W⊥ とすると ⟨u,v1⟩=0 である。 ⟨Au,v1⟩=⟨u,A∗v1⟩.
ここで A が正規であることから A∗v1=λˉ1v1 が成り立つ。これは補題13から従う:∥(A−λ1I)v1∥=0 より ∥(A−λ1I)∗v1∥=∥(A∗−λˉ1I)v1∥=0(A−λ1I も正規であるため)。よって ⟨Au,v1⟩=⟨u,λˉ1v1⟩=λ1⟨u,v1⟩=0.
したがって Au∈W⊥ である。A の W⊥ への制限 A∣W⊥ は (n−1) 次正規行列であるから、帰納法の仮定よりユニタリ対角化可能である。実対称行列のときと同様に正規直交基底を合わせれば、U∗AU が対角行列となるユニタリ行列 U が得られる。逆に、U∗AU=D が対角行列ならば A=UDU∗ であり、 A∗A=UD∗U∗⋅UDU∗=UD∗DU∗,AA∗=UDU∗⋅UD∗U∗=UDD∗U∗.
対角行列は可換(D∗D=DD∗)であるから A∗A=AA∗ となり、A は正規である。 □
5. 直交射影への分解 — スペクトル分解
スペクトル定理は、行列の直交射影による分解として表現できる。
n 次実正方行列 Pi が部分空間 Wi への直交射影行列(orthogonal projection matrix)であるとは、以下を満たすことをいう:
Pi2=Pi(冪等性),
PiT=Pi(対称性),
Im(Pi)=Wi。
A を n 次実対称行列とし、その相異なる固有値を μ1,μ2,…,μk とする。Pi を固有値 μi に対応する固有空間 Eμi への直交射影行列とすると、 A=μ1P1+μ2P2+⋯+μkPk
が成り立つ。さらに、P1,P2,…,Pk は以下を満たす:
P1+P2+⋯+Pk=I(完全性),
PiPj=O (i=j、直交性),
Pi2=Pi, PiT=Pi(各 Pi は直交射影)。
スペクトル定理(定理7)より、A の固有ベクトルからなる正規直交基底 {q1,…,qn} が存在する。固有値 μi に属する固有ベクトルの集合を {qj:j∈Ii} とすると、固有空間 Eμi への直交射影は Pi=j∈Ii∑qjqjT
で与えられる。ここで {I1,…,Ik} は {1,…,n} の分割である。qjqjT はランク 1 の直交射影であり、正規直交性 qjTql=δjl から PiPj=(s∈Ii∑qsqsT)t∈Ij∑qtqtT=s∈Ii,t∈Ij∑qs(qsTqt)qtT=O(i=j)
が得られる(Ii∩Ij=∅ より qsTqt=0)。同様に Pi2=Pi も確認でき、PiT=Pi は定義から明らかである。完全性は ∑i=1kPi=∑j=1nqjqjT=QQT=I から従う(Q=(q1∣⋯∣qn) は直交行列)。最後に、A=Qdiag(λ1,…,λn)QT=∑j=1nλjqjqjT であり、固有値ごとにまとめれば A=i=1∑kμij∈Ii∑qjqjT=i=1∑kμiPi.
□
A=(5225) の固有値は μ1=7, μ2=3 であり、正規化された固有ベクトルはそれぞれ q1=21(11), q2=21(1−1) である。直交射影行列は P1=q1q1T=21(1111),P2=q2q2T=21(1−1−11)
であり、確かに 7P1+3P2=(5225)=A が成り立つ。
6. 3×3実対称行列の直交対角化の計算例
ここでは3×3実対称行列の直交対角化を一から行う。
を直交対角化せよ。Step 1: 固有値の計算. 固有多項式を求める。 det(A−λI)=det2−λ1112−λ1112−λ.
第1行に第2行と第3行を加えると、第1行は (4−λ,4−λ,4−λ) となる。(4−λ) をくくり出して (4−λ)det11112−λ1112−λ.
第2行から第1行を、第3行から第1行を引くと (4−λ)det10011−λ0101−λ=(4−λ)(1−λ)2.
したがって固有値は λ1=4(重複度 1)と λ2=1(重複度 2)である。Step 2: 固有空間の計算.λ1=4: (A−4I)x=0 を解く。 A−4I=−2111−2111−2⟶100010−1−10.
固有空間は E4=span⎩⎨⎧111⎭⎬⎫ である。λ2=1: (A−I)x=0 を解く。 A−I=111111111⟶100100100.
固有空間は E1=span⎩⎨⎧−110,−101⎭⎬⎫ である。Step 3: 正規直交基底の構成.E4 と E1 は定理5より直交するので、各固有空間内で正規直交基底を求めればよい。E4: v1=111 を正規化して q1=31111。E1: Gram–Schmidt の正規直交化法を適用する。u1=−110 とし、 u2′=−101−⟨u1,u1⟩⟨−101,u1⟩u1=−101−21−110=−1/2−1/21.
正規化すると q2=21−110,q3=61−1−12.
Step 4: 直交行列と検証.直交行列は P=(q1∣q2∣q3)=1/31/31/3−1/21/20−1/6−1/62/6
であり、
が成り立つ。検証として PTP=I を確認できる。
7. 応用 — 二次形式の標準化
スペクトル定理の重要な応用として、二次形式(quadratic form)の標準化がある。
n 変数の二次形式とは、x=(x1,…,xn)T に対して Q(x)=xTAx=i,j=1∑naijxixj
で定まる関数のことである。ここで A=(aij) は対称行列(AT=A)としてよい。A を Q の行列表現という。
Q(x1,x2)=5x12+4x1x2+5x22 の行列表現は A=(5225) である。
任意の実二次形式 Q(x)=xTAx(A は n 次実対称行列)に対して、直交変換 x=Py により Q=λ1y12+λ2y22+⋯+λnyn2
と標準化できる。ここで λ1,…,λn は A の固有値であり、P はスペクトル定理で得られる直交行列である。
スペクトル定理(定理7)より、直交行列 P が存在して PTAP=D=diag(λ1,…,λn) となる。x=Py と変数変換すると Q(x)=xTAx=(Py)TA(Py)=yT(PTAP)y=yTDy=i=1∑nλiyi2.
□
Q(x1,x2)=5x12+4x1x2+5x22 を標準化する。行列表現 A=(5225) の固有値は μ1=7, μ2=3 であり(前節の例を参照)、直交変換 (x1x2)=21(111−1)(y1y2)
により Q=7y12+3y22 と標準化される。これは原点中心の楕円 Q=c(c>0)を表し、主軸の方向は固有ベクトル 21(1,1)T と 21(1,−1)T で与えられる。この変換は座標軸を π/4 だけ回転させることに対応する。
本章では、実対称行列が直交行列で対角化可能であるというスペクトル定理を証明し、正規行列への一般化、スペクトル分解、そして二次形式の標準化への応用を扱った。スペクトル定理は線形代数のなかでも最も応用範囲の広い定理であり、関数解析におけるコンパクト自己随伴作用素のスペクトル定理など、無限次元への拡張も重要な研究対象である。