一般化逆行列（ムーア・ペンローズの疑似逆行列）

更新 2023/05/26

ムーア・ペンローズの疑似逆行列

任意の $m\times n$ 複素行列 $A$ に対して，以下の4つの条件を満たす $n\times m$ 複素行列 $B$ がただ1つ存在する。

$ABA=A$
$BAB=B$
$(AB)^{*}=AB$
$(BA)^{*}=BA$

この $B$ を $A$ のムーア・ペンローズの疑似逆行列と呼ぶ。

ただし， $X^{*}$ は $X$ の随伴行列（共役転置）です。

疑似逆行列について，存在と一意性の証明や，おもしろい応用例（最小二乗解・最小ノルム解）を紹介します。

名前と記号

「ムーア・ペンローズの疑似逆行列」は「一般逆行列」「一般化逆行列」「疑似逆行列」「Moore–Penrose Generalized Inverse」などいろいろな名前で呼ばれることがあります。この記事では単に「疑似逆行列」と呼ぶことにします。
条件1のみを満たす $B$ を「一般逆行列」と呼ぶこともあります。ただし，ムーア・ペンローズ形でない一般逆行列はあまり見かけません。
$A$ の疑似逆行列を $A^{+}$ と書くことにします。

疑似逆行列の存在と一意性

冒頭の定義の繰り返しですが，以下は定理です。

定理1

任意の $m\times n$ 複素行列 $A$ に対して，以下の4つの条件を満たす $n\times m$ 複素行列 $B$ がただ1つ存在する。

$ABA=A$
$BAB=B$
$(AB)^{*}=AB$
$(BA)^{*}=BA$

1～4を満たす $B$ が存在することの証明には特異値分解を使います。任意の $m\times n$ 行列 $A$ が特異値分解できることは認めます。→特異値分解の定義，性質，具体例

存在性の証明の概要

特異値分解を $A=U\Sigma V$ とする。つまり， $U$ は $m\times m$ のユニタリ行列， $V$ は $n\times n$ のユニタリ行列， $\Sigma$ は対角成分（行と列のインデックスが等しい要素）以外が $0$ である $m\times n$ 行列。

$B=V^{*}\Sigma^{-1}U^{*}$ とおくと1～4を満たすことがわかる。ただし， $\Sigma^{-1}$ は「 $\Sigma$ を転置して $0$ でない各成分を逆数にした $n\times m$ 行列」のことである。

紫文字の式より，疑似逆行列の具体的な計算方法もわかります。

一意性の証明は比較的簡単です。

一意性の証明

$B_1$ と $B_2$ がいずれも $A$ に対して4つの式を満たすとすると，

$B_1=B_1AB_1$ （式1）
$=(B_1A)^*B_1$ （式4）
$=(B_1AB_2A)^*B_1$ （式1）
$=(B_2A)^*(B_1A)^*B_1$ （随伴行列の性質）
$=(B_2A)(B_1A)B_1$ （式4）
$=B_2AB_1$ （式2）

同様に，

$B_2=B_2AB_2\\ =B_2(AB_2)^*\\ =B_2(AB_1AB_2)^*\\ =B_2(AB_2)^*(AB_1)^*\\ =B_2AB_2AB_1\\ =B_2AB_1$

以上より $B_1=B_2$

逆行列の一般化であること

疑似逆行列は普通の逆行列の一般化になっています。

参考：逆行列の定義・逆行列を求める２通りの方法と例題

定理2

$A$ が正方行列で正則なら， $A^{-1}=A^{+}$

つまり，正則なら逆行列こそが疑似逆行列になります。

証明

正則な正方行列 $A$ に対して，その逆行列を $A^{-1}$ とすると以下を満たす：

$AA^{-1}A=A$
$A^{-1}AA^{-1}=A^{-1}$
$AA^{-1}=I$ より $(AA^{-1})^{*}=AA^{-1}$
$A^{-1}A=I$ より $(A^{-1}A)^{*}=A^{-1}A$

つまり $A^{-1}$ は疑似逆行列の定義式4つを満たす。

「正則でない正方行列」や「一般の $m\times n$ 行列」に対しても「逆行列っぽいもの」を与えるのが疑似逆行列です。

応用例（最小二乗解と最小ノルム解）

以下， $A$ は $m\times n$ 実数行列， $x$ は $n$ 次元ベクトル， $b$ は $m$ 次元ベクトルとします。

疑似逆行列 $A^{+}$ が現れるおもしろい定理です。

定理

$A$ の列ベクトルが線形独立なとき， $\|Ax-b\|_2$ を最小にする $x$ は $x=A^{+}b$
$A$ の行ベクトルが線形独立なとき， $Ax=b$ を満たす $x$ の中で $\|x\|_2$ を最小にするものは $x=A^{+}b$

定理の解釈

一次方程式 $Ax=b$ を考えます。

$A$ が正則なとき
$Ax=b$ の解は逆行列を使って $x=A^{-1}b$ と表せます。
$A$ の列ベクトルが線形独立なとき
$m\geq n$ ，つまり $A$ が縦長行列だと， $Ax=b$ の解は存在するとは限りませんが，せめて $\|Ax-b\|_2$ を最小にしたいです。この解（最小二乗解）は疑似逆行列を使って $x=A^{+}b$ と表せます。
$A$ の行ベクトルが線形独立なとき
$m\leq n$ ，つまり $A$ が横長行列だと $Ax=b$ の解が無数に存在することがあります。そこで， $Ax=b$ の解の中でも「良い」ものを選びたいです。 $\|x\|_2$ が小さいものが「良い」という立場では，解（最小ノルム解）は $x=A^{+}b$ と表せます。

定理の証明

1の証明（最小二乗解）

$A$ の列ベクトルが線形独立なとき， $A^{\top}A$ は正則である。

なぜなら， $A^{\top}Ax=0$ のとき， $x^{\top}A^{\top}Ax=0$ より $\|Ax\|_2=0$ つまり $Ax=\overrightarrow{0}$ ， $A$ の列ベクトルが線形独立なので $x=\overrightarrow{0}$

よって $A^{\top}A$ が正則なので，最小二乗解は $x=(A^{\top}A)^{-1}A^{\top}b$ となる（この証明は，最小二乗法の行列表現（一変数，多変数，多項式））。

あとは $A^{+}=(A^{\top}A)^{-1}A^{\top}$ であることを示せば良いが， $(A^{\top}A)^{-1}A^{\top}$ が疑似逆行列の4つの式を満たしていることの確認は簡単。

2の証明の概略（最小ノルム解）

$A$ の行ベクトルが線形独立なとき， $AA^{\top}$ は正則である（証明は1と同様）。

$AA^{\top}$ が正則なとき，最小ノルム解は $x=A^{\top}(AA^{\top})^{-1}b$ となる（この証明は，最小ノルム解の導出と図による理解）。

あとは $A^{+}=A^{\top}(AA^{\top})^{-1}$ であることを示せば良いが， $A^{\top}(AA^{\top})^{-1}$ が疑似逆行列の4つの式を満たしていることの確認は簡単。

「疑似」と書くか「擬似」と書くか迷いますね。

この記事の監修者

マスオ

高校数学の美しい物語の管理人。「わかりやすいこと」と「ごまかさないこと」の両立を意識している。著書に『高校数学の美しい物語』『超ディープな算数の教科書』。記事の誤植やわかりにくい等のご指摘はお気軽にメールください！