多変数のガウス積分

多変数のガウス積分

exp(12xAx+bx)dx=(2π)ndetAexp(12bA1b)\displaystyle\int \exp\left(-\dfrac{1}{2}x^{\top}Ax+b^{\top}x\right)dx\\=\sqrt{\dfrac{(2\pi)^n}{\det A}}\exp \left(\dfrac{1}{2}b^{\top}A^{-1}b\right)

1次元のガウス積分の一般化です。多変数の正規分布にまつわる積分です。一次元の場合と比較しつつ,どのように拡張されるのか理解しましょう。

大学数学で重要となる概念のオンパレードです!

  • 二次関数を行列,ベクトルで表す(二次形式)
  • 正定値行列,行列の平方根
  • 多変数の置換積分(ヤコビアン)

二次関数の行列表示

目標は指数の中身が多変数の二次関数であるような積分の計算です。

多変数(nn 変数)の二次関数は一般的に,

i=1njinaijxixj+i=1nbixi+c \sum_{i=1}^n\sum_{j \geq i}^na_{ij}x_ix_j+ \sum_{i=1}^nb_ix_i+c

と表せます。

シグマが入り乱れていて煩雑なので,行列とベクトルを用いて表します:

12xAx+bx+c -\dfrac{1}{2}x^{\top}Ax+b^{\top}x+c

AAn×nn\times n の対称行列,b,xb,xnn 次元ベクトルです。cc は定数項です(積分の計算方法には影響しないので今回は c=0c=0 とします)。

ここで,ガウス積分が発散しないための必要十分条件として「AA が正定値である」ことが課せられます。そのため A12A^{\frac{1}{2}} が定義できます。

また,左辺は -\infty から \infty まで全ての変数(x1,x2,,xnx_1,x_2,\cdots,x_n)で積分します。

ガウス積分の準備:平方完成

一次元の場合の二次関数が平方完成できたのと同様に,多変数の場合も平方完成できます:

多変数2次関数の平方完成

12xAx+bx=12(A12xA12b)(A12xA12b)+12(bA1b)\begin{aligned} &-\dfrac{1}{2}x^{\top}Ax+b^{\top}x\\ &=-\dfrac{1}{2} (A^{\frac{1}{2}}x-A^{-\frac{1}{2}}b)^{\top} (A^{\frac{1}{2}}x-A^{-\frac{1}{2}}b)+\dfrac{1}{2} (b^{\top}A^{-1}b) \end{aligned}

ちなみに1変数の場合は 12ax2+bx=12(axba)2+12b2a-\dfrac{1}{2}ax^2+bx=-\dfrac{1}{2}\left(\sqrt{a}x-\dfrac{b}{\sqrt{a}}\right)^2+\dfrac{1}{2}\dfrac{b^2}{a} です。

多変数のガウス積分

それでは,冒頭の公式(多変数のガウス積分)を証明します。

方針

置換積分を用います。多変数の場合の置換積分なので,ヤコビアンが必要になります。

ヤコビアンについては 重積分の変数変換とヤコビアン をチェックしてください。

証明

I=exp(12xAx+bx)dx=exp{12(A12xA12b)(A12xA12b)+12bA1b}dx=exp(12bA1b)exp(12yy)(detA)12dy\begin{aligned} I &= \int \exp(-\dfrac{1}{2}x^{\top}Ax+b^{\top}x)dx\\ &= \int \exp\left\{ -\dfrac{1}{2} (A^{\frac{1}{2}}x-A^{-\frac{1}{2}}b)^{\top} (A^{\frac{1}{2}}x-A^{-\frac{1}{2}}b) + \dfrac{1}{2} b^{\top} A^{-1} b \right\}dx\\ &= \exp \left( \dfrac{1}{2} b^{\top} A^{-1} b \right) \int \exp \left( -\dfrac{1}{2} y^{\top} y \right) (\det A)^{-\tfrac{1}{2}}dy \end{aligned}

ただし, y=A12xA12by=A^{\frac{1}{2}}x-A^{-\frac{1}{2}}b と置換し,ヤコビアンが (detA)12(\det A)^{-\tfrac{1}{2}} であることを用いた。

よって,一次元のガウス積分に帰着される:

I=(detA)12exp(12bA1b)×exp{12(y12+y22++yn2)}dy=(detA)12exp(12bA1b)(2π)n\begin{aligned} I &= (\det A)^{-\tfrac{1}{2}}\exp\left(\dfrac{1}{2}b^{\top}A^{-1}b\right)\\ &\quad \times \int \exp\left\{ -\dfrac{1}{2} (y_1^2+y_2^2+\cdots +y_n^2) \right\} dy\\ &= (\det A)^{-\tfrac{1}{2}} \exp \left( \dfrac{1}{2}b^{\top}A^{-1} b \right)(\sqrt{2\pi})^n \end{aligned}

高校数学の考え方が自然に拡張されるのが美しいです。