線形代数 もろもろ雑多なメモ

線形代数の勉強中．．．．メモ．

固有値とランクの関係

固有値

行列Aに対して，

となる定数 λ とベクトル x が存在するとき，定数 λ をAの固有値， x を固有ベクトルという．

これをもう少し変形していくと．．．

つまり，
１．固有ベクトル x は行列 A - λI の零空間に存在している．
２．λ は A - λI が零空間を持つように決められる．
といえる．

特記事項
１．固有ベクトルが対応する固有値が異なる場合，それらの固有ベクトルは．線形独立である．

直行行列 (Orthogonal Matrix)

n 次元単位直交列ベクトル u1, u2, .... un を列とする下記の n x n 行列を直交行列と呼ぶ．

直交行列は単位直交列ベクトルから構成されており，転置行列が逆行列となる．

ベクトルに対して直交行列をかけても，ベクトルの長さ，角度，内積は保存される．

対称行列 (Symmetric Matrix)

Aという n x n 行列を考えるたときに，自身の転置行列 A^Tと等しいような行列を対称行列という．具体的には．．．

特記事項
１．対称行列の固有値はすべて実数であり，対応する固有ベクトルも実数ベクトルである．
２．対称行列の異なる固有値に対応する固有ベクトルは互いに直交する．
３．対称行列の０でない固有値の個数は，その行列のランクに等しい．つまり， n x n 対称行列が正則行列である必要十分条件は，すべての固有値が 0 でないことである．

対角化（Diagonalization）

n x n 行列Aが n 本の線形独立な固有ベクトルを持っているとすると，行列Aは下記のように対角化できる．この時対角化に用いる行列SはAの固有ベクトルを列ベクトルにもつ．

特記事項
１．n x n 行列Aの固有値 λ1, λ2, ... λn がすべて異なる場合，n 個の固有ベクトルはすべて線形独立であり，この行列Aは対角化可能である．
２．n x n 行列Aの固有値 λ1, λ2, ... λn の中で同じものがあったとしても，この行列Aが対角化可能な場合もある．
３．n x n 行列の中で，n 個の線形独立な固有ベクトルを持たないものもある．つまり，対角化できない行列も存在する

対角化可能条件と可逆化可能条件

ある n x n 行列 A が対角化可能 (Diagonalizable) かどうかは，Aが n 個の線形独立な固有ベクトルを持つかどうかに依存する．
ある n x n 行列 A が可逆化可能 (Invertible) かどうかは，Aが0となる固有値を持たないことに依存する．
対角化可能かどうかと逆行列が存在するかどうかは直接的な関係はない．

スペクトル分解・固有値分解（Eigen Value Decomposition）

実対称行列は下記の形に分解できる．ここで，行列QはAの単位固有ベクトルからなる直交行列であり，Λはその固有ベクトルに対応する固有値である．

上記をなぜ”スペクトル分解”と呼ぶ理由は，上式を計算してみればわかる．
もとの行列Aを，固有ベクトルが作る行列の和として表現できる．

特異値分解（Singular Value Decomposition）

どんな m x n 行列Aも下記のように分解できる．

ここで，m x m 行列Uの列ベクトル (Column Vector) はAA^Tの固有ベクトル，n x n 行列Vの列ベクトル (Column Vector) はA^TAの固有ベクトルである．また，m x n行列Σの対角成分は0でないAA^T，A^TAの固有値である．

UとVは4つの部分空間を構成する．

AA^T，A^TAの固有ベクトルがUとVの列ベクトルになる．