正規分布の和 再生性の証明【確率論,和の分布,畳み込み】

正規分布の和の分布が再び正規分布となること,すなわち正規分布が再生性を持つことを証明します.

正規分布の再生性(reproductive property of the normal distribution)

2つの確率変数X_1, X_2がそれぞれ{\rm Norm}(\mu_1,\sigma_1^2){\rm Norm}(\mu_1,\sigma_1^2)なる正規分布(normal distribution, またはガウス分布Gaussina distributionともいう)

(1)   \begin{equation*} \text{pdf : } \; f_{X_i}(x_i) = \frac{1}{\sqrt{2\pi}\sigma_i} \exp{\left\{ -\frac{(x_i-\mu_i)^2}{2\sigma_i^2} \right\}} \qquad (i = 1,2)  \end{equation*}

に従うとき,2つの確率変数の和Y:= X_1 + X_2{\rm Norm}(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)なる正規分布

(2)   \begin{equation*} \text{pdf : } \; f_{Y}(y) = \frac{1}{\sqrt{2\pi}\; \sqrt{\sigma_1^2+\sigma_2^2 }} \exp{\left\{ -\frac{\left(y-(\mu_1+\mu_2)\right)^2}{2(\sigma_1^2+\sigma_2^2)} \right\}} \end{equation*}

に従う.□

関連ページ:
確率分布の再生性とは何か?

 

準備

ガウス積分(Gaussian integral)

(3)   \begin{equation*} \int_{-\infty}^{\infty} e^{-Bx^2} dx = \sqrt{\frac{\pi}{B}} \end{equation*}

を用いる.(ガウス積分の計算方法の詳細は こちら

 

証明

2つの確率変数の和Y=X_1+X_2の確率密度関数f_Yは,もとの確率密度関数f_{X_1}, f_{X_2}の畳み込み(convolution)を計算することで求められる[2つの確率変数の和の分布の求め方は こちら].すなわち,正規分布の確率密度関数(1)について

(4)   \begin{equation*} f_Y(y) = \int_{-\infty}^{\infty} f_{X_1}(x_1)f_{X_2}(y-x_1)dx_1  \end{equation*}

を計算し,f_Y(y)もまた正規分布の確率密度関数となっていることを示せばよい.式(1)を,式(4)に代入すると,

(5)   \begin{eqnarray*} f_Y(y) &=& \int_{-\infty}^{\infty} f_{X_1}(x)f_{X_2}(y-x)dx \\ &=& \int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma_1} \exp{\left\{ -\frac{(x_1-\mu_1)^2}{2\sigma_1^2} \right\}} \times \frac{1}{\sqrt{2\pi}\sigma_2} \exp{\left\{ -\frac{\left[(y-x_1)-\mu_2\right]^2}{2\sigma_2^2} \right\}} dx_1 \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty}  \exp{\left\{ \frac{-(x_1-\mu_1)^2}{2\sigma_1^2} +\frac{-\left[(y-x_1)-\mu_2\right]^2}{2\sigma_2^2} \right\}} dx_1  \end{eqnarray*}

式(5)の被積分関数\exp\{\cdots\}の指数部\{\cdots\}は,x_1に関する2次関数だから,これをx_1について平方完成することにより,式(5)の積分はガウス積分(3)に帰着する.すなわち,

(6)   \begin{eqnarray*} f_Y(y) &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty}  \exp{\left\{ \frac{-(x_1-\mu_1)^2}{2\sigma_1^2} +\frac{-\left[(y-x_1)-\mu_2\right]^2}{2\sigma_2^2} \right\}} dx_1 \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty}  \exp{\left\{ -\frac{(\sigma_1^2+\sigma_2^2)}{2\sigma_1^2\sigma_2^2}(x_1+\alpha)^2 - \frac{1}{2(\sigma_1^2+\sigma_2^2)}(y-\mu_1-\mu_2)^2   \right\}} dx_1 \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty}  \exp{\left\{ -B_1(x_1+\alpha)^2 + g(y) \right\}} dx_1  \end{eqnarray*}

となる.ただし

(7)   \begin{equation*} \alpha := \frac{-\sigma_1^2 y - \sigma_2^2 \mu_1 + \sigma_1^2 \mu_2}{\sigma_1^2 + \sigma_2^2}, \end{equation*}

(8)   \begin{equation*} B_1 := -\frac{\sigma_1^2 + \sigma_2^2}{2 \sigma_1^2 \sigma_2^2}, \end{equation*}

(9)   \begin{equation*} g(y) := - \frac{1}{2(\sigma_1^2+\sigma_2^2)}(y-\mu_1-\mu_2)^2 \end{equation*}

とおいた.式(6)の積分について,z:=x_1+\alphaのように変数変換すると,dz = dx_1で,

(10)   \begin{eqnarray*} f_Y(y) &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty}  \exp{\left\{ -B_1(x_1+\alpha)^2 + g(y) \right\}} dx_1 \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty}  \exp{\left\{ -B_1 z^2 + g(y) \right\}} dz \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty}  e^{-B_1 z^2 } \cdot e^{ g(y)} dz \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \; e^{g(y)} \; \int_{-\infty}^{\infty} e^{-B_1 z^2} dz \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \; e^{g(y)} \; \sqrt{\frac{\pi}{B_1}}  \end{eqnarray*}

式(11)のB_1g(y)に(8),(9)を代入しなおせば,

(11)   \begin{eqnarray*} f_Y(y) &=& \frac{1}{2\pi\sigma_1\sigma_2}  \; \sqrt{\frac{\pi}{B_1}} \; e^{g(y)} \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \; \sqrt{\frac{2\pi \sigma_1^2 \sigma_2^2}{\sigma_1^2 + \sigma_2^2}} \; \exp{\left\{- \frac{ (y-\mu_1-\mu_2)^2 }{ 2(\sigma_1^2+\sigma_2^2) } \right\} } \\ &=& \frac{1}{\sqrt{2\pi}\; \sqrt{\sigma_1^2 + \sigma_2^2} } \exp{\left\{- \frac{ (y-(\mu_1+\mu_2))^2 }{ 2(\sigma_1^2+\sigma_2^2) } \right\} } \end{eqnarray*}

これはすなわち,{\rm Norm}(\mu_1+\mu_2, \sigma_1^2+\sigma_2^2)なる正規分布の確率密度関数に他ならない.□



コメントを残す

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です