偏相関係数の意味と式の導出

$X$ に対する $Y$ の回帰直線は，

$\hat{Y}=aX+b\\ =\dfrac{\mathrm{Cov}(X,Y)}{\sigma_X^2}(X-\mu_X)+\mu_Y$

よって「$X$ の影響を除いた $Y$」は

$Y'=Y-\hat{Y}\\ =(Y-\mu_Y)-(X-\mu_X)\dfrac{\mathrm{Cov}(X,Y)}{\sigma_X^2}$

同様に「$X$ の影響を除いた $Z$」は

$Z'=(Z-\mu_Z)-(X-\mu_X)\dfrac{\mathrm{Cov}(X,Z)}{\sigma_X^2}$

求めたい偏相関係数は，$Y'$ と $Z'$ の相関係数：

$\rho_{YZ,X}=\dfrac{\mathrm{Cov}(Y',Z')}{\sigma_{Y'}\sigma_{Z'}}\\ =\dfrac{E[Y'Z']-E[Y']E[Z']}{\sqrt{E[Y'^2]-E[Y']^2}\sqrt{E[Z'^2]-E[Z']^2}}$

である。

そこで，さきほどの2つの式から $Y'$ と $Z'$ のモーメントを計算すると，

$E[Y']=E[Z']=0$

$E[Y'Z']=\mathrm{Cov}(Y,Z)-\dfrac{\mathrm{Cov}(X,Y)\mathrm{Cov}(X,Z)}{\sigma_X^2}\\ =(\rho_{YZ}-\rho_{XY}\rho_{XZ})\sigma_Y\sigma_Z$

$E[Y'^2]=\sigma_Y^2-\dfrac{\mathrm{Cov}(X,Y)^2}{\sigma_X^2}=\sigma_Y^2(1-\rho_{XY}^2)$

$E[Z'^2]=\sigma_Z^2(1-\rho_{XZ}^2)$

となる。これらを $\rho_{YZ,X}$ の式に代入して整理すると

$\rho_{YZ,X}=\dfrac{\rho_{YZ}-\rho_{XY}\rho_{XZ}}{\sqrt{1-\rho^2_{XY}}\sqrt{1-\rho^2_{XZ}}}$

となる。