ベイズの定理の基本的な解説

条件付き確率とベイズの定理の意味

$p(X)$ ：事象 $X$ が起きる確率 $=\dfrac{|X|}{|U|}$

$P(Y|X)$ ：事象 $X$ が起きたもとで事象 $Y$ が起きる確率(条件付き確率とも呼ばれます。詳しくは：条件付き確率の意味といろいろな例題 ) $=\dfrac{|A|}{|X|}$

（$P_X(Y)$ と表記する流儀もあります。）

よって，「 $X$ も $Y$ も起きる確率」＝「 $X$ が起きる確率」×「 $X$ が起きたもとで $Y$ が起きる確率」なので，

「 $P(X\cap Y)=P(X)P(Y|X)$ 」が成立します。この公式は乗法公式とも呼ばれます。

(ベン図で表すと，$\dfrac{|A|}{|U|}=\dfrac{|X|}{|U|}\cdot\dfrac{|A|}{|X|}$ )

同様に $Y$ 側から考えることで

$P(X\cap Y)=P(Y)P(X|Y)$ が成立します。

(ベン図で表すと，$\dfrac{|A|}{|U|}=\dfrac{|Y|}{|U|}\cdot\dfrac{|A|}{|Y|}$ )

このように両側から考えることによって恒等式

$P(X)P(Y|X)=P(Y)P(X|Y)$

が成立することが分かります。これがベイズの定理です。

「ベイズの定理はベン図の両側から攻めて $P(X\cap Y)$ を2通りの方法で表したもの」とみなせます。

ベイズの定理

上記の等式より $P(X),P(Y|X),P(Y),P(X|Y)$ のうち3つが分かれば残りの1つが分かります。

多くの場合は $P(X)$ や $P(Y)$ でなく条件付き確率を求めるのが目的となるので，

$P(Y|X)=\dfrac{P(Y)P(X|Y)}{P(X)}$

の形で使うことが多いです。そのためこれをベイズの定理と呼ぶことも多いです。 →ベイズ推定の簡単な例と利点

この形で書いた時に，

$P(Y)$ を事前確率

$P(Y|X)$ を事後確率

と呼びます。 もともと $Y$ が起きる確率は事前確率 $P(Y)$ であったが，$X$ が起きるという情報を得た元では事後確率 $P(Y|X)$ になる，というニュアンスです。

ベイズの定理の変形（離散型の場合）

事象 $X$ が起こるという条件のもとで，$n$ 種類の互いに排反な事象 $Y_1,Y_2,...Y_n$ が起こると仮定します。この時，事象 $X$ が起こるという条件のもとで，事象 $Y_k$ が起こるという確率 $P(Y_k|X)$ は，

$$P(Y_k|X) = \dfrac{P(Y_k)P(X|Y_k)}{P(X)}$$

いま，$Y_1,Y_2,...Y_n$ はそれぞれ互いに排反であるから，

$$P(X) = \displaystyle \sum_{k=1}^{n} P(X \cap Y_k)$$

と表されます。確率の乗法公式より，

$$P(X \cap Y_k) = P(Y_k)P(X|Y_k)$$

ですから，

$$P(Y_k|X) = \dfrac{P(Y_k)P(X|Y_k)}{ \displaystyle \sum_{k=1}^{n} P(Y_k)P(X|Y_k)}$$

となります。

ベイズの定理の変形(連続型の場合)

詳しくは踏み込みませんが，連続型のベイズの定理の公式も紹介します。離散型の公式と形はほとんど同じです。

$$P(y|x) = \dfrac{f(x|y) \pi(y)}{\int_y f(x|y) \pi(y) dy}$$

ここで，

• $\pi(y)$：事前分布
• $P(y|x)$：事後分布
• $f(x|y)$：尤度
• $\int_y f(x|y) \pi(y) dy$：周辺尤度

ベイズの定理を用いる入試問題

ベイズの定理を用いる入試問題を探したけど見つかりませんでした，知っている方はご一報くださいm(__)m

ちなみに以下の問題をベイズの定理と応用例として紹介しているサイトが複数ありましたが，単純に条件付き確率の問題です。わざわざベイズの定理を持ち出す必要はありません。

なお，条件付き確率については条件付き確率の意味といろいろな例題もどうぞ。