確率論 k-san.link

正規分布の再生性の証明：和の分布の計算と畳み込み【確率論】

互いに独立な正規確率変数の和の分布が再び正規分布となること，すなわち正規分布が再生性を持つことを証明します．正規分布の畳み込み計算の詳細を示します．

【スマホでの数式表示について】

当サイトをスマートフォンなど画面幅が狭いデバイスで閲覧すると，数式が画面幅に収まりきらず，正確に表示されない場合があります．その際は画面を回転させ横長表示にするか，ブラウザの表示設定を「PCサイト」にした上でご利用ください．

正規分布の再生性(reproductive property of the normal distribution)

互いに独立な確率変数X_1, X_2がそれぞれ{\rm Norm}(\mu_1,\sigma_1^2)，{\rm Norm}(\mu_2,\sigma_2^2)なる正規分布(normal distribution, またはガウス分布Gaussian distributionともいう)

(1)   \begin{equation*} \text{pdf : } \; f_{X_i}(x_i) = \frac{1}{\sqrt{2\pi}\sigma_i} \exp{\left\{ -\frac{(x_i-\mu_i)^2}{2\sigma_i^2} \right\}} \qquad (i = 1,2) \end{equation*}

に従うとき，2つの確率変数の和Y:= X_1 + X_2は{\rm Norm}(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)なる正規分布

(2)   \begin{equation*} \text{pdf : } \; f_{Y}(y) = \frac{1}{\sqrt{2\pi}\; \sqrt{\sigma_1^2+\sigma_2^2 }} \exp{\left\{ -\frac{\left(y-(\mu_1+\mu_2)\right)^2}{2(\sigma_1^2+\sigma_2^2)} \right\}} \end{equation*}

に従う．すなわち，正規分布は再生性を持つ．□

関連ページ
確率分布の再生性とは何か？

準備

ガウス積分(Gaussian integral)

(3)   \begin{equation*} \int_{-\infty}^{\infty} e^{-Bx^2} dx = \sqrt{\frac{\pi}{B}} \end{equation*}

を用いる．（ガウス積分の計算方法の詳細は こちら）

証明（正規分布の再生性）

2つの独立な確率変数の和Y=X_1+X_2の確率密度関数f_Yは，もとの確率密度関数f_{X_1}, f_{X_2}の畳み込み(convolution)を計算することで求められる[2つの確率変数の和の分布の求め方は こちら]．すなわち，正規分布の確率密度関数(1)について

(4)   \begin{equation*} f_Y(y) = \int_{-\infty}^{\infty} f_{X_1}(x_1)f_{X_2}(y-x_1)dx_1 \end{equation*}

を計算し，f_Y(y)もまた正規分布の確率密度関数となっていることを示せばよい．

式(1)を，式(4)に代入すると，

(5)   \begin{eqnarray*} f_Y(y) &=& \int_{-\infty}^{\infty} f_{X_1}(x)f_{X_2}(y-x)dx \\ &=& \int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma_1} \exp{\left\{ -\frac{(x_1-\mu_1)^2}{2\sigma_1^2} \right\}} \times \frac{1}{\sqrt{2\pi}\sigma_2} \exp{\left\{ -\frac{\left[(y-x_1)-\mu_2\right]^2}{2\sigma_2^2} \right\}} dx_1 \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty} \exp{\left\{ \frac{-(x_1-\mu_1)^2}{2\sigma_1^2} +\frac{-\left[(y-x_1)-\mu_2\right]^2}{2\sigma_2^2} \right\}} dx_1 \end{eqnarray*}

式(5)の被積分関数\exp\{\cdots\}の指数部\{\cdots\}は，x_1に関する2次関数だから，これをx_1について平方完成することにより，式(5)の積分はガウス積分(3)に帰着する．すなわち，

(6)   \begin{eqnarray*} f_Y(y) &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty} \exp{\left\{ \frac{-(x_1-\mu_1)^2}{2\sigma_1^2} +\frac{-\left[(y-x_1)-\mu_2\right]^2}{2\sigma_2^2} \right\}} dx_1 \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty} \exp{\left\{ -\frac{(\sigma_1^2+\sigma_2^2)}{2\sigma_1^2\sigma_2^2}(x_1+\alpha)^2 - \frac{1}{2(\sigma_1^2+\sigma_2^2)}(y-\mu_1-\mu_2)^2 \right\}} dx_1 \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty} \exp{\left\{ -B_1(x_1+\alpha)^2 + g(y) \right\}} dx_1 \end{eqnarray*}

となる．ただし

(7)   \begin{equation*} \alpha := \frac{-\sigma_1^2 y - \sigma_2^2 \mu_1 + \sigma_1^2 \mu_2}{\sigma_1^2 + \sigma_2^2}, \end{equation*}

(8)   \begin{equation*} B_1 := -\frac{\sigma_1^2 + \sigma_2^2}{2 \sigma_1^2 \sigma_2^2}, \end{equation*}

(9)   \begin{equation*} g(y) := - \frac{1}{2(\sigma_1^2+\sigma_2^2)}(y-\mu_1-\mu_2)^2 \end{equation*}

とおいた．式(6)の積分について，z:=x_1+\alphaのように変数変換すると，dz = dx_1で，

(10)   \begin{eqnarray*} f_Y(y) &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty} \exp{\left\{ -B_1(x_1+\alpha)^2 + g(y) \right\}} dx_1 \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty} \exp{\left\{ -B_1 z^2 + g(y) \right\}} dz \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \int_{-\infty}^{\infty} e^{-B_1 z^2 } \cdot e^{ g(y)} dz \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \; e^{g(y)} \; \int_{-\infty}^{\infty} e^{-B_1 z^2} dz \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \; e^{g(y)} \; \sqrt{\frac{\pi}{B_1}} \end{eqnarray*}

式(11)のB_1，g(y)に(8)，(9)を代入しなおせば，

(11)   \begin{eqnarray*} f_Y(y) &=& \frac{1}{2\pi\sigma_1\sigma_2} \; \sqrt{\frac{\pi}{B_1}} \; e^{g(y)} \\ &=& \frac{1}{2\pi\sigma_1\sigma_2} \; \sqrt{\frac{2\pi \sigma_1^2 \sigma_2^2}{\sigma_1^2 + \sigma_2^2}} \; \exp{\left\{- \frac{ (y-\mu_1-\mu_2)^2 }{ 2(\sigma_1^2+\sigma_2^2) } \right\} } \\ &=& \frac{1}{\sqrt{2\pi}\; \sqrt{\sigma_1^2 + \sigma_2^2} } \exp{\left\{- \frac{ (y-(\mu_1+\mu_2))^2 }{ 2(\sigma_1^2+\sigma_2^2) } \right\} } \end{eqnarray*}

これはすなわち，{\rm Norm}(\mu_1+\mu_2, \sigma_1^2+\sigma_2^2)なる正規分布の確率密度関数に他ならない．すなわち，正規分布は再生性を持つことが示された．□

2 件のコメント

  • 本ページ、確率変数X1, X2が独立であるという仮定が抜けているように思います。
    また細かい指摘ですが、確率変数X2が従う分布のパラメーターの添え字が2ではなく1になっているのと、
    Gaussianの綴りがGaussinaになっています。

    返信する

    • コメントを残す

    メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

    RECOMMENDこちらの記事も人気です。