アクチュアリー

連続型確率変数 $X$ に対して，$X$ が $a$ 以上 $b$ 以下となる確率が，積分を用いて $P(a\leq X\leq b)=\displaystyle\int_a^bf(x)dx$ で与えられるとき，$f(x)$ を確率密度関数という。

任意の確率変数 $X$ と $a > 0$ に対して（期待値 $E[|X|]$ が存在するとき）， $$P(|X|\geq a)\leq\dfrac{E[|X|]}{a}$$

最小二乗法による直線の式は，$y=Ax+B$ となる。ただし，

• 傾き：$A=\dfrac{\mathrm{Cov}(X,Y)}{\sigma_X^2}$
• 切片：$B=\mu_Y-A\mu_X$

指数分布とは，ランダムなイベントの発生間隔を表す分布です。指数分布は「地震が起きる間隔」や「電球の寿命」などを表す分布として使われます。

平均 $\mu$，分散 $\sigma^2$ の分布（母集団）からランダムに抽出したサンプルの値を $x_1,x_2,\cdots, x_n$ とする。

このとき，$u^2=\dfrac{1}{n-1}\displaystyle\sum_{i=1}^n(x_i-\overline{x})^2$

とおくと，$E[u^2]=\sigma^2$ となる。 $u^2$ を不偏標本分散と言う。

$X$ が「平均 $\mu$，分散 $\sigma^2$ の正規分布」に従うとき，
$\dfrac{X-\mu}{\sigma}$ は「平均 $0$，分散 $1$ の正規分布」に従う。

主張1：行列 $A$ と列ベクトル $\overrightarrow{b}$ が与えられたときに $\|A\overrightarrow{x}-\overrightarrow{b}\|$ を最小にする $\overrightarrow{x}$ を求める問題は非常に重要である。

主張2：$A^{\top}A$ が正則のとき上記の問題の解は唯一つである：$\overrightarrow{x}=(A^{\top}A)^{-1}A^{\top}\overrightarrow{b}$

マルコフ連鎖とは，

$P(X_{t+1}\mid X_t,X_{t-1},\dots,X_1)=P(X_{t+1}\mid X_t)$

を満たすような確率変数の列 $X_1,X_2,\dots$ のこと。

仮説検定とは，データから，ある仮説が正しいかどうかを分析する手法。

確率変数 $X_1,X_2,\cdots,X_n$ が互いに独立に標準正規分布 $N(0,1)$ に従うとき，$X=X_1^2+X_2^2+\cdots +X_n^2$ は自由度 $n$ のカイ二乗分布に従う。

区間 $[a,b]$ 上の一様分布の確率密度関数は

$$f(x)=\begin{cases}\dfrac{1}{b-a}&(a\leqq x\leqq b)\\0&(\mathrm{Otherwise})\end{cases}$$

$n$ が大きいときサンプル平均 $\overline{X}_n$ は真の平均 $\mu$ に近づく。

二項分布 $\mathrm{Bin}(n,p)$ は $n$ が十分大きいとき，平均 $np$，分散 $np(1-p)$ の正規分布に近づく。

同時確率密度関数が， $$f(\overrightarrow{x})=\dfrac{1}{(2\pi)^{\frac{n}{2}}\sqrt{|\Sigma|}}\exp \left\{-\dfrac{1}{2}(\overrightarrow{x}-\overrightarrow{\mu})^{\top}\Sigma^{-1}(\overrightarrow{x}-\overrightarrow{\mu})\right\}$$ で表される分布を**多変量正規分布（多変量ガウス分布）**と言う。

確率密度関数が $f(x)=\dfrac{1}{\pi (1+x^2)}$ である連続型確率分布を（標準）コーシー分布と言う。

累積分布関数が $F(x)$ であるような確率分布に従う乱数を生成したいときには，$[0,1]$ 上の一様分布に従う乱数を生成してそれに $F^{-1}$ をかませばよい。

$U_1,U_2$ が独立に $[0,1]$ 上の一様分布に従うとき，

$X_1=\sqrt{-2\log U_1}\cos 2\pi U_2$

$X_2=\sqrt{-2\log U_1}\sin 2\pi U_2$

は独立に標準正規分布に従う。

$X_1,X_2,\cdots,X_n$ が互いに独立に平均 $\mu$，分散 $\sigma^2$ の正規分布に従うとき，

$\dfrac{1}{\sigma^2}\displaystyle\sum_{i=1}^n(X_i-\overline{X})^2$ は自由度 $n-1$ のカイ二乗分布に従う。

• 母平均 $\mu$ が既知の場合，
  $\dfrac{1}{\sigma^2}\displaystyle\sum_{i=1}^n(X_i-\mu)^2$ が自由度 $n$ のカイ二乗分布に従うことを使う。

• 母平均が未知の場合，
  $\dfrac{1}{\sigma^2}\displaystyle\sum_{i=1}^n(X_i-\overline{X})^2$ が自由度 $n-1$ のカイ二乗分に従うことを使う。

同時確率関数が $$P(n_1,\dots,n_k)=\dfrac{n!}{n_1!\cdots n_k!}p_1^{n_1}\cdots p_k^{n_k}$$ （各 $n_i$ が非負で $n_1+\cdots +n_k=n$ のときはこの値，それ以外のときは $0$）

で表されるような分布を多項分布と言う。

ただし，$n,p_1,\dots,p_k$ はパラメータで，$p_1+\cdots +p_k=1$ を満たす。

確率変数 $X$ に対して，$t$ についての関数 $E[e^{tX}]$ のことをモーメント母関数（または積率母関数）と呼ぶ。

確率（密度 or 質量）関数が，

ある関数 $g_i(\theta)$ ，$h_i(x)$

$(i=0,1,\dots,d)$ を用いて

$p(x\mid \theta)=g_0(\theta)h_0(x)\exp\left\{\displaystyle\sum_{i=1}^dg_i(\theta)h_i(x)\right\}$

と表せるような分布を指数型分布族（exponential family）と言う。

ガンマ分布は，期間 $\mu$ ごとに1回くらい起こるランダムな事象が $n$ 回起こるまでの時間の分布を表す。

確率 $p$ で成功するような試行を繰り返すとき，$k$ 回成功するまでにかかる回数が従う分布は負の二項分布。

「$X$ の影響を除いた $Y$」と「$X$ の影響を除いた $Z$」の相関係数 $\rho_{YZ,X}$ は， $$\rho_{YZ,X}=\dfrac{\rho_{YZ}-\rho_{XY}\rho_{XZ}}{\sqrt{1-\rho^2_{XY}}\sqrt{1-\rho^2_{XZ}}}$$ で定義され，偏相関係数と呼ばれる。

合計 $N$ 個のものの中に，当たりが $A$ 個入っている。この $N$ 個から $n$ 個選んだときに，当たりが何個あるか？

を表す分布を超幾何分布と言う（パラメータは $N,A,n$ の3つ）。

$$\begin{aligned} \overrightarrow{\theta}_{n+1} &= \overrightarrow {\theta}_{n}+P_{n+1}\overrightarrow{a}_{n+1} (b_{n+1}-\overrightarrow{a}_{n+1}^{\top}\overrightarrow{\theta}_n)\\ P_{n+1}&=P_n-\dfrac{P_n\overrightarrow{a}_{n+1}\overrightarrow{a}_{n+1}^{\top}P_n}{1+\overrightarrow{a}_{n+1}^{\top}P_n\overrightarrow{a}_{n+1}} \end{aligned}$$

試行回数が十分大きいとき，「プラスの状態にいた時間の割合 $R_1$」が従う分布は，逆正弦分布に近づく。

ただし，この記事では以下の分布を逆正弦分布と呼ぶ。

A. 確率密度関数は $p(r)=\dfrac{1}{\pi}\dfrac{1}{\sqrt{r(1-r)}}$
B. 累積分布関数は $F(r)=\dfrac{2}{\pi}\mathrm{Arcsin}\sqrt{r}$

• 確率関数が $\pi(x)$ である確率分布に従うサンプルを生成したい
• $\pi(x)$ は計算できないが，$\pi(x)$ に比例する関数 $\tilde{\pi}(x)$ の計算はできる

推移確率行列が $P$ であるマルコフ連鎖に対して，$\overrightarrow{\pi} P=\overrightarrow{\pi}$ を満たす確率ベクトル $\overrightarrow{\pi}$ を定常分布と呼ぶ。

確率密度関数が $$f(t)=mt^{m-1}\exp(-t^m)\:(t\geqq 0)$$ である確率分布をワイブル分布と言う。

最小二乗法による傾きの推定値 $$\hat{A}=\dfrac{\mathrm{Cov}(X,Y)}{\sigma_X^2}$$ は最良線形不偏推定量である。