特異値分解の定義,性質,具体例
更新
行列の特異値分解(singular value decomposition, SVD)について,定義・性質・具体例を整理しました。
特異値分解とは
特異値分解とは
特異値分解とは, 行列 を と分解することです。ただし,
- は の直交行列(各列が互いに直交する行列 →直交行列の定義と性質)
- は の直交行列
- は図のような行列 つまり「非対角成分は ,対角成分は非負で大きさの順に並んだ行列。
です。任意の行列はこのように分解できます。また, の対角成分で でないもの( を含めることもある)を特異値と言います。
特異値分解の具体例
特異値分解の具体例
の特異値分解(の1つ)は,
です。よって, の特異値は, と です。
なお,上の等式が正しいこと,および右辺の1つ目と3つ目の行列が直交行列であることは簡単な計算で確認できます。
特異値分解の性質
特異値分解の性質
-
が与えられたとき,特異値を定める行列 は一意に決まりますが,直交行列 は一意に定まるとは限りません。
-
行列の( でない)特異値の数は,その行列のランクと一致します。→行列のランクの意味(8通りの同値な定義)
-
「行列の特異値の二乗和」は「その行列の全成分の二乗和」と等しいです。さきほどの具体例ではどちらも24になっています。この値の平方根を行列のフロベニウスノルムと言います。→行列のフロベニウスノルムとその性質)
固有値分解と特異値分解
固有値分解と特異値分解
-
行列の固有値分解は正方行列に対してのみ定義されますが,特異値分解は正方行列でなくてもできます。
-
が半正定値対称行列のとき, の固有値と特異値は一致します。対称行列は直交行列で対角化できるからです。→対称行列の固有値と固有ベクトルの性質の証明
-
「 の でない固有値の正の平方根」は の特異値です。理由は, と特異値分解できるとき と固有値分解できるからです。同様に, の でない固有値の正の平方根も の特異値です。後ほどもう少し詳しく説明します。
特異値分解の計算方法
特異値分解の計算方法
の固有値分解と の固有値分解ができれば, の特異値分解 が計算できる。
任意の行列が特異値分解できることは認める。つまり, と分解できるとして, の計算方法の例を示す。
より,
これは, の 行目を とおくと、 と書ける。
つまり,対称行列 を直交行列で対角化したときの直交行列が で対角行列が となる。つまり,特異値と が分かる。ちなみに のことを右特異ベクトルと呼ぶ。
同様に, より対称行列 を直交行列で対角化したときの直交行列が で対角行列が となる。つまり,特異値と が分かる。ちなみに の列ベクトルのことを左特異ベクトルと呼ぶ。
特異値分解は,行列の低ランク近似や擬似逆行列の計算などに使われます。