射影行列のイメージと楽しい公式

例えば，$P=\begin{pmatrix}1&1\\0&0\end{pmatrix}$ とすると，$P^2=P$ なので $P$ は射影行列です。

$P$ による変換を図示してみます。$P\begin{pmatrix}x\\y\end{pmatrix}=\begin{pmatrix}x+y\\0\end{pmatrix}$ なので，$(x,y)$ を $(x+y,0)$ に変換します。図示してみると「射影っぽい」ですね。スクリーン（$x$ 軸）に斜め45°から光を当てる感じです。

この「射影っぽい性質」についてもう少し説明します。

ちなみに，$P^2=P$ を満たす行列を冪等（べきとう）行列と呼ぶこともあります。

対称な射影行列を直交射影行列と言います。

例えば，$P=\begin{pmatrix}\frac{1}{2}&\frac{1}{2}\\\frac{1}{2}&\frac{1}{2}\end{pmatrix}$ とすると，$P^2=P$ かつ $P^{\top}=P$ なので $P$ は直交射影行列です。

$P\begin{pmatrix}x\\y\end{pmatrix}=\begin{pmatrix}\frac{x+y}{2}\\\frac{x+y}{2}\end{pmatrix}$ となり，図示してみると「直交射影っぽい」ですね。スクリーン（$y=x$）と光が直交しています。

この「直交」についてもう少し説明します。

• 転置行列の性質に慣れていれば，$P$ が直交射影行列であることは簡単に確認できます：

  • $P^2=A(A^{\top}A)^{-1}A^{\top}A(A^{\top}A)^{-1}A^{\top}\\ =A(A^{\top}A)^{-1}(A^{\top}A)(A^{\top}A)^{-1}A^{\top}\\ =A(A^{\top}A)^{-1}A^{\top}=P$
  • $P^{\top}=(A(A^{\top}A)^{-1}A^{\top})^{\top}\\ =A((A^{\top}A)^{\top})^{-1}A^{\top}\\ =A(A^{\top}A)^{-1}A^{\top}=P$

• $P$ は $AX$ という形なので，$P$ の像が $V$ に含まれることもわかります。

• $\overrightarrow{a}_1,\cdots,\overrightarrow{a}_n$ が正規直交基底の場合，$A^{\top}A$ は単位行列になるので，$P=AA^{\top}=\displaystyle\sum_{i=1}^n\overrightarrow{a}_i\overrightarrow{a}_i^{\top}$ となります。$P\overrightarrow{b}=\displaystyle\sum_{i=1}^n(\overrightarrow{a}_i^{\top}\overrightarrow{b})\overrightarrow{a}_i$ となり，各要素は高校数学で登場する正射影ベクトルの公式と一致します！

行列 $A$ と列ベクトル $\overrightarrow{b}$ が与えられたときに $\|A\overrightarrow{x}-\overrightarrow{b}\|$ を最小にする $\overrightarrow{x}$ は，$\overrightarrow{x}=(A^{\top}A)^{-1}A^{\top}\overrightarrow{b}$ で求められます。 →最小二乗法の行列表現（一変数，多変数，多項式）

この式は一見複雑ですが，さきほどの直交射影行列を求める公式を知っていると理解が深まります。