1. 高校数学の美しい物語
  2. 特異値分解の定義,性質,具体例

特異値分解の定義,性質,具体例

更新日時 2021/03/07

行列の特異値分解(singular value decomposition, SVD)についての定義,性質などを整理しました。

目次
  • 特異値分解とは

  • 具体例

  • 特異値分解の性質

  • 固有値分解と特異値分解

特異値分解とは

特異値分解

任意の m×nm\times n 行列 AA に対して,A=UΣVA=U\Sigma V となる

  • m×mm\times m の直交行列 UU→直交行列とは
  • n×nn\times n の直交行列 VV
  • m×nm\times n の「非対角成分は 00,対角成分は非負で大きさの順に並んだ行列(図のような行列)」 Σ\Sigma

が存在します。

AA をこのような行列の積で表すことを特異値分解と言います。また,Σ\Sigma の対角成分で 00 でないもの(00 を含めることもある)を特異値と言います。

具体例

A=(222211111111)A=\begin{pmatrix}2&2&2&2\\1&-1&1&-1\\-1&1&-1&1\end{pmatrix} の特異値分解(の1つ)は,

A=(1000121201212)(4000022000000)(12121212121212121212121212121212)A=\begin{pmatrix}1&0&0\\0&\frac{1}{\sqrt{2}}&\frac{1}{\sqrt{2}}\\0&-\frac{1}{\sqrt{2}}&\frac{1}{\sqrt{2}}\end{pmatrix}\begin{pmatrix}4&0&0&0\\0&2\sqrt{2}&0&0\\0&0&0&0\end{pmatrix}\begin{pmatrix}\frac{1}{2}&\frac{1}{2}&\frac{1}{2}&\frac{1}{2}\\\frac{1}{2}&-\frac{1}{2}&\frac{1}{2}&-\frac{1}{2}\\\frac{1}{2}&\frac{1}{2}&-\frac{1}{2}&-\frac{1}{2}\\\frac{1}{2}&-\frac{1}{2}&-\frac{1}{2}&\frac{1}{2}\end{pmatrix}

です。よって,AA の特異値は,44222\sqrt{2} です。

なお,上式が正しいこと,および右辺の1つ目と3つ目の行列が直交行列であることは簡単な計算で確認できます。

特異値分解の性質

  • AA が与えられたとき,特異値を定める行列 Σ\Sigma は一意に決まりますが,直交行列 U,VU,V は一意に定まるとは限りません。

  • 行列の(00 でない)特異値の数は,その行列のランクと一致します。→行列のランクの意味(8通りの同値な定義)

  • 行列の特異値の二乗和はその行列の全成分の二乗和と等しいです。さきほどの具体例ではどちらも24になっています。この値の平方根を行列のフロベニウスノルムと言います。

固有値分解と特異値分解

  • 行列の固有値分解は正方行列に対してのみ定義されますが,特異値分解は長方行列でも考えることができます。

  • AA が対称行列のとき,AA の固有値と特異値は一致します。対称行列は直交行列で対角化できるからです。→対称行列の固有値と固有ベクトルの性質の証明

  • AAA^{\top}A00 でない固有値の正の平方根は AA の特異値です。これは,A=UΣVA=U\Sigma V のとき AA=VΣΣVA^{\top}A=V^{\top}\Sigma^{\top}\Sigma V であることから分かります。同様に,AAAA^{\top}00 でない固有値の正の平方根も AA の特異値です。

特異値分解は,行列の低ランク近似や擬似逆行列の計算などに使われます。

人気記事
  1. 高校数学の美しい物語
  2. 特異値分解の定義,性質,具体例