確率論 k-san.link

確率変数の和の分布を計算する【確率論，畳み込み】

確率変数X1，X2が従う確率密度関数f1，f2が与えられたとき，その和Y:=X1+X2が従う確率密度関数fYを計算する一般的な方法を示します．

またこれにより，正規分布・ガンマ分布・指数分布などの和の分布を計算する際，分布ごとに畳み込みの積分範囲が異なる理由が明らかになります．

【スマホでの数式表示について】

当サイトをスマートフォンなど画面幅が狭いデバイスで閲覧すると，数式が画面幅に収まりきらず，正確に表示されない場合があります．その際は画面を回転させ横長表示にするか，ブラウザの表示設定を「PCサイト」にした上でご利用ください．

確率変数の和の分布

連続確率変数の和の分布

X_1, X_2を，結合確率密度関数(joint probability density function) f_{X_1,X_2} に従う連続確率変数とし，f_{X_1,X_2}の台(support)を

(1)   \begin{equation*} S_f:= \{(x_1,x_2)|a_1<x_1\le b_1, a_2<x_2\le b_2 \}\subseteq {\mathbb R}^2 \end{equation*}

とする．また，与えられたy \in {\mathbb R}に対して定まる{\mathbb R}^2の部分集合S_yを

(2)   \begin{equation*} S_y:= \{(x_1,x_2)|x_1 + x_2<y} \} \subseteq {\mathbb R}^2 \end{equation*}

とする．これらの共通部分

(3)   \begin{eqnarray*} S&:=& S_f \cap S_y \\ &=&\{ (x_1,x_2)| x_1 + x_2 < y, a_1<x_1\le b_1, a_2<x_2\le b_2 \} \end{eqnarray*}

を用いて，確率変数の和 Y:=X_1+X_2 が従う確率密度関数 f_Y は，

(4)   \begin{equation*} f_Y(y) = \frac{\partial }{\partial y} \iint_S f_{X_1,X_2}(x_1, x_2) dx_1 dx_2 \end{equation*}

で計算される．

特に，確率変数 X_1, X_2 が確率論的に独立である(stochastically independent)とき，すなわち

(5)   \begin{equation*} f_{X_1,X_2}(x_1, x_2) = f_{X_1}(x_1) f_{X_2}(x_2) \end{equation*}

が成り立つとき，式(4)の計算をさらに進めることができ， f_Y は f_{X_1} と f_{X_2} の畳み込み(convolution)

(6)   \begin{equation*} f_Y(y) = \int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{equation*}

により得られる．\square

関連ページ

再生性を持つ分布

再生性を持たない分布

和の分布の計算のための準備

確率密度関数と累積分布関数

連続確率変数Yの確率密度関数f_Y(y)は，その累積分布関数

(7)   \begin{equation*} F_Y(y)=\Pr(Y<y) \end{equation*}

を用いて，

(8)   \begin{equation*} f_Y(y) = \frac{\partial}{\partial y} F_Y(y) \end{equation*}

と表すことができる．

また，式(8)の逆演算として，連続確率変数 Y の確率分布 \Pr(Y<y) および 累積分布関数 F_Y(y)は，確率密度関数 f_Y の積分で

(9)   \begin{eqnarray*} F_Y(y) &=& \Pr(Y<y) \\ &=& \int_{-\infty}^{y} f_{Y}(s) ds \end{eqnarray*}

のように書くことができる．

※ なお，一般に，公理的確率論においては確率測度の定義から始まるが，個別の分布を具体的な関数として与える際には，確率密度関数と累積分布関数のどちらで分布を定義し，どちらを二次的に導出するのかについて，原理的な優先順位が定まっているわけではない．

集合を用いた積分領域の表示

和の分布を計算する際に必要となる，集合を用いた積分領域の表示を導入する．

式(9)について，積分区間 (-\infty,y)\subset {\mathbb R} を，{\mathbb R} の部分集合 S として内包的に表示すると，

(10)   \begin{equation*} S=\{ s | s < y \in {\mathbb R}\}=(-\infty,y) \end{equation*}

などと書ける．(10)を用いて積分範囲を示すことにすると，式(9)は

(11)   \begin{eqnarray*} F_Y(y) &=& \Pr(Y<y) \\ &=& \int_S f_{Y}(s) ds \\ &=& \int_{\{ s | s < y \}} f_{Y}(s) ds \end{eqnarray*}

のように書くことができる．このような，集合を用いた積分領域の表示は，積分範囲に不連続点があるなど，「数直線上での単純な積分」でない場合に便利である．

和の分布は結合確率分布に関する制約条件付き積分で計算する

和 Y:=X_1 + X_2 を考える前の，2つの確率変数 X_1, X_2 に関する結合確率分布(joint probability distribution) \Pr(X_1<c_1, X_2<c_2) は，

(12)   \begin{equation*} \Pr(X_1<c_1, X_2<c_2)=\int_{-\infty}^{c_1} \int_{-\infty}^{c_2} f_{(X_1,X_2)}(x_1,x_2) dx_1 dx_2 \end{equation*}

である．

さて，定義より Y:=X_1+X_2 なので，

(13)   \begin{equation*} \Pr(Y<y) = \Pr(X_1 + X_2<y) \end{equation*}

である．右辺 \Pr(X_1 + X_2<y) は「ある値yを与えた時，確率変数 X_1,X_2 の任意の実現値の組 (x_1,x_2) に対して，x_1+x_2<yが成り立つ確率」を意味する．

\Pr(X_1 + X_2<y) の具体的な関数形は，確率変数 X_1,X_2 の結合確率分布(12)の積分範囲を，条件 x_1+x_2<y で制約することにより計算できる．

すなわち，和の分布 \Pr(X_1 + X_2<y) は，確率変数 X_1, X_2 に関する確率密度関数 f_{X_1,X_2}(x_1, y-x_1) の積分領域(3)について積分したものである．

和の分布の累積関数

和の分布 \Pr(X_1 + X_2<y) は，確率密度関数 f_{X_1,X_2}(x_1, y-x_1) を積分領域(3)で積分したものであるから，

(14)   \begin{eqnarray*} F_Y(y) &=&\Pr(Y<y) \\ &=& \Pr(X_1 + X_2<y) \\ &=& \iint_{ \{ (x_1,x_2)| x_1 + x_2 < y, \, a_1<x_1\le b_1, \, a_2<x_2\le b_2 \} } f_{(X_1,X_2)}(x_1,x_2) dx_1 dx_2\\ &=& \iint_S f_{(X_1,X_2)}(x_1,x_2) dx_1 dx_2 \end{eqnarray*}

のように書くことができる．

和の分布の確率密度関数

和の分布の確率密度関数 f_Y(y) は，累積分布関数(14) の微分

(15)   \begin{equation*} f_Y(y) = \frac{\partial }{\partial y}　\iint_S f_{(X_1,X_2)}(x_1,x_2) dx_1 dx_2 \end{equation*}

により得られる．

確率変数の独立性の仮定

確率変数 X_1, X_2 が確率論的に独立であること（すなわち 式(5) ）

    \begin{equation*} f_{X_1,X_2}(x_1, x_2) = f_{X_1}(x_1) f_{X_2}(x_2) \end{equation*}

を仮定すると，式(15)は

(16)   \begin{eqnarray*} f_Y(y) = \frac{\partial }{\partial y}　\iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \end{eqnarray*}

となる．このとき，X_1, X_2 の累積分布関を F_{X_1}, F_{X_2} とし，f_{X_1}, f_{X_2} の台 {\rm Supp}(f_{X_1}), {\rm Supp}(f_{X_2}) を

(17)   \begin{eqnarray*} {\rm Supp}(f_{X_1}) &=& \left\{ x_1 | a_1 < x_1 \le b_2 , \, x_1 \in {\mathbb R} \right\} \\ {\rm Supp}(f_{X_2}) &=& \left\{ x_1 | a_2 < x_2 \le b_2 , \, x_2 \in {\mathbb R} \right\} \end{eqnarray*}

とすると，累積分布関数の性質より，

(18)   \begin{eqnarray*} F_{X_1}(a_1)=0, \, F_{X_1}(b_1)=1, \, F_{X_1}(x) = \int_{a_1}^x f_{X_1}(t) dt\\ F_{X_2}(a_2)=0, \, F_{X_2}(b_2)=1, \, F_{X_2}(x) = \int_{a_2}^x f_{X_2}(t) dt \end{eqnarray*}

である．

和の分布の計算：独立性の仮定と積分領域の場合分け

確率変数 X_1, X_2 が確率論的に独立であることを仮定した上で，積分領域 S の場合分けを行い，式(16)を計算しよう．

以下において，積分領域 S を4つのケースに場合分けして計算を行うが，いずれの場合も

(19)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y}　\iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \\ &=& \int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

なる畳み込み積分（すなわち式(6)）に帰着する．

積分領域の場合分け

積分領域(3)は，f_{X_1,X_2}の台を

    \begin{equation*} S_f:= \{(x_1,x_2)|a_1<x_1\le b_1, a_2<x_2\le b_2 \}\subseteq {\mathbb R}^2 \end{equation*}

とし，与えられたy \in {\mathbb R}に対して定まる{\mathbb R}^2の部分集合 S_y を

    \begin{equation*} S_y:= \{(x_1,x_2)|x_1 + x_2<y} \} \subseteq {\mathbb R}^2 \end{equation*}

とした際の共通部分

    \begin{eqnarray*} S&:=& S_f \cap S_y \\ &=&\{ (x_1,x_2)| x_1 + x_2 < y, a_1<x_1\le b_1, a_2<x_2\le b_2 \} \end{eqnarray*}

であった．模式的には下図のように表せる：

すなわち，積分領域上の点 (x_1,x_2)\in S \subset {\mathbb R}^2 が満たすべき制約条件は

(20)   \begin{equation*} x_1 + x_2 < y \end{equation*}

(21)   \begin{equation*} a_1<x_1\le b_1 \end{equation*}

(22)   \begin{equation*} a_2<x_2\le b_2 \end{equation*}

であるが，積分(14)を実際に計算する際には，a_1,b_1,a_2,,b_2,y の値の大小により，次の4つのケースに場合分けされる．

    \begin{equation*} \begin{array}{lll} \text{(i)} & y - b_2 \le a_1 < x_1 < y - a_2 \le b_1, & y-b_1 < a_2 < x_2 < y - x_1 < y - a_1 \le b_2\\ \text{(ii)} & y - b_2 \le a_1 < x_1 < b_1 < y - a_2, & a_2 < y-b_1 < x_2 < y - x_1 < y - a_1 \le b_2 \\ \text{(iii)} & a_1 < y - b_2 < x_1 < y - a_2 \le b_1, & y-b_1 < a_2 < x_2 < \min(y - x_1, b_2) < y - a_1 \\ \text{(iv)} & a_1 < y - b_2 < x_1 < b_1 < y - a_2, & a_2 < y-b_1 < x_2 < \min(y - x_1, b_2) < y - a_1 \end{array} \end{equation*}

和の分布の計算：畳み込み積分の導出

上記 (i)～(iv) の場合分けに従って，実際に式 (16) の微分と積分を実行し，確率密度関数を計算する．

いずれの場合も，同一の畳み込み積分 (6) に帰着する．

積分範囲(i)の場合

式(16) の積分範囲 S を

(23)   \begin{eqnarray*} S= \{ \quad (x_1,x_2) \quad | && y - b_2 \le a_1 < x_1 < y - a_2 \le b_1, \\ && y-b_1 < a_2 < x_2 < y - x_1 < y - a_1 \le b_2 \} \end{eqnarray*}

とする．これは下図の水色部分にあたる．

式(16) を積分範囲(23)で計算すると，

(24)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} F_Y(y) \\ &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} \left\{ \int_{a_2}^{y-x_1} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} f_{X_1}(x_1) \left\{ \int_{a_2}^{y-x_1} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} f_{X_1}(x_1) \left\{ F_{X_2}(y-x_1) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \quad (\because F_{X_2}(a_2)=0) \end{eqnarray*}

となる．さて，y による微分を行いたいが，積分区間が y を含むため，微分の定義

(25)   \begin{equation*} \frac{\partial \psy}{\partial y}:=\lim_{\Delta y \to 0} \frac{\psy(y+\Delta y)-\psy(y)}{\Delta y} \end{equation*}

に従ってこれを計算する．

(26)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{a_1}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \right \\ && \hspace{80pt} \left - \int_{a_1}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{a_1}^{y-a_2} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} \left + \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) \left\{ \lim_{\Delta y \to 0} \frac{1}{\Delta y}\left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) \right\} dx_1 \\ && \hspace{70pt} + \lim_{\Delta y \to 0} \frac{1}{\Delta y} \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) \frac{\partial }{\partial y} F_{X_2}(y -x_1) dx_1 \\ && \qquad + \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ f_{X_1}(y-a_2) F_{X_2}(y+\Delta y-(y-a_2)) \Delta y + \mathcal{O} \left(\frac{1}{\Delta y^2} \right) \right\} \\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ && \hspace{30pt} + \lim_{\Delta y \to 0} f_{X_1}(y-a_2) F_{X_2}(\Delta y + a_2) + \lim_{\Delta y \to 0}\mathcal{O} \left(\frac{1}{\Delta y} \right) \\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 + f_{X_1}(y-a_2) F_{X_2}(a_2) \\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \end{eqnarray*}

積分範囲(23)より，

(27)   \begin{eqnarray*} \min (b_1, y-a_2) &=& y-a_2 \\ \max(a_1, y - b_2) &=& a_1 \end{eqnarray*}

なので，

(28)   \begin{eqnarray*} f_Y(y) &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ &=&　\int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

を満たす．すなわち，式(26)は式(6)に帰着する．

積分範囲(ii)の場合

式(16) の積分範囲 S を

(29)   \begin{eqnarray*} S= \{ \quad (x_1,x_2)\quad | && y - b_2 \le a_1 < x_1 < b_1 < y - a_2, \\ && a_2 < y-b_1 < x_2 < y - x_1 < y - a_1 \le b_2 \} \end{eqnarray*}

とする．これは下図の水色部分にあたる．

式(16) を積分範囲(29)で計算すると，

(30)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} F_Y(y) \\ &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=& \frac{\partial }{\partial y} \int_{a_1}^{b_1} \left\{ \int_{a_2}^{y-x_1} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{b_1} f_{X_1}(x_1) \left\{ \int_{a_2}^{y-x_1} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{b_1} f_{X_1}(x_1) \left\{ F_{X_2}(y-x_1) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{b_1} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \quad (\because F_{X_2}(a_2)=0)\\ &=& \int_{a_1}^{b_1} f_{X_1}(x_1) \frac{\partial }{\partial y}F_{X_2}(y-x_1) dx_1 \\ &=& \int_{a_1}^{b_1} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

となる．積分範囲(29)より，

(31)   \begin{eqnarray*} \min (b_1, y-a_2) &=& b_1 \\ \max(a_1, y - b_2) &=& a_1 \end{eqnarray*}

なので，

(32)   \begin{eqnarray*} f_Y(y) &=& \int_{a_1}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ &=&　\int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

を満たす．すなわち，式(30)は式(6)に帰着する．

積分範囲(iii)の場合

式(16) の積分範囲 S を

(33)   \begin{eqnarray*} S= \{ \quad (x_1,x_2) \quad | && a_1 < y - b_2 < x_1 < y - a_2 \le b_1, \\ && y-b_1 < a_2 < x_2 < \min(y - x_1, b_2) < y - a_1 \} \end{eqnarray*}

とする．これは下図の水色部分(A)と黄緑色部分(B)にあたる．

式(16) を積分範囲(33)で計算するとき，(A)，(B)の積分領域をそれぞれ S_A,S_B として，

(34)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} F_Y(y) \\ &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=& \frac{\partial }{\partial y} \iint_{S_A} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 + \frac{\partial }{\partial y} \iint_{S_B} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=:& (A) + (B) \end{eqnarray*}

となる．積分範囲に注意して，(A)，(B) をそれぞれ計算すると，

(35)   \begin{eqnarray*} (A) &=& \frac{\partial }{\partial y} \iint_{S_A} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-b_2} \left\{ \int_{a_2}^{b_2} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-b_2} f_{X_1}(x_1) \left\{ \int_{a_2}^{b_2} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-b_2} f_{X_1}(x_1) \left\{ F_{X_2}(b_2) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-b_2} f_{X_1}(x_1) dx_1 \quad (\because F_{X_2}(b_2)=1, \, F_{X_2}(a_2)=0) \\ &=& \frac{\partial }{\partial y} \left\{ F_{X_1}(y-b_2) - F_{X_1}(a_1) \right\} \\ &=& f_{X_1}(y-b_2) \quad (\because F_{X_1}(a_1)=0) \\ \end{eqnarray*}

(36)   \begin{eqnarray*} (B) &=& \frac{\partial }{\partial y} \iint_{S_B} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-a_2} \left\{ \int_{a_2}^{y-x_1} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-b_2} f_{X_1}(x_1) \left\{ \int_{a_2}^{y-x_1} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-b_2} f_{X_1}(x_1) \left\{ F_{X_2}(y-x_1) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-b_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \quad (\because F_{X_2}(a_2)=0) \end{eqnarray*}

となる．さて，(B)については，積分範囲の場合分け(i)の際と同様に，y による微分を，微分の定義に従って計算する．すなわち，

(37)   \begin{eqnarray*} (B) &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y+\Delta y-b_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \right \\ && \hspace{80pt} \left - \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} + \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ && \hspace{80pt} \left + \int_{y+\Delta y-b_2}^{y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} + \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ && \hspace{80pt} \left - \int_{y-b_2}^{y+\Delta y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) \left\{ \lim_{\Delta y \to 0} \frac{1}{\Delta y}\left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) \right\} dx_1 \\ && \hspace{70pt} + \lim_{\Delta y \to 0} \frac{1}{\Delta y} \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ && \hspace{70pt} - \lim_{\Delta y \to 0} \frac{1}{\Delta y} \int_{y-b_2}^{y+\Delta y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) \frac{\partial }{\partial y} F_{X_2}(y -x_1) dx_1 \\ && \qquad + \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ f_{X_1}(y-a_2) F_{X_2}(y+\Delta y-(y-a_2)) \Delta y + \mathcal{O} \left(\frac{1}{\Delta y^2} \right) \right\} \\ && \qquad - \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ f_{X_1}(y-b_2) F_{X_2}(y+\Delta y-(y-b_2)) \Delta y + \mathcal{O} \left(\frac{1}{\Delta y^2} \right) \right\} \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ && \hspace{30pt} + \lim_{\Delta y \to 0} f_{X_1}(y-a_2) F_{X_2}(\Delta y + a_2) + \lim_{\Delta y \to 0}\mathcal{O} \left(\frac{1}{\Delta y} \right) \\ && \hspace{30pt} - \lim_{\Delta y \to 0} f_{X_1}(y-b_2) F_{X_2}(\Delta y + b_2) + \lim_{\Delta y \to 0}\mathcal{O} \left(\frac{1}{\Delta y} \right) \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ && \hspace{30pt} + f_{X_1}(y-a_2) F_{X_2}(a_2) - f_{X_1}(y-b_2) F_{X_2}(b_2) \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) \\ && \hspace{80pt} \quad (\because F_{X_2}(a_2)=0, \, F_{X_2}(b_2)=1) \end{eqnarray*}

結局，

(38)   \begin{eqnarray*} (A) &=& f_{X_1}(y-b_2) \\ (B) &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) \end{eqnarray*}

となるので，

(39)   \begin{eqnarray*} f_Y(y) &=& (A)+(B) \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \end{eqnarray*}

を得る．さて，積分範囲(33)より，

(40)   \begin{eqnarray*} \min (b_1, y-a_2) &=& y-a_2 \\ \max(a_1, y - b_2) &=& y - b_2 \end{eqnarray*}

なので，

(41)   \begin{eqnarray*} f_Y(y) &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ &=&　\int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

を満たす．すなわち，式(39)は式(6)に帰着する．

積分範囲(iv)の場合

式(16) の積分範囲 S を

(42)   \begin{eqnarray*} S= \{ \quad (x_1,x_2) \quad | && a_1 < y - b_2 < x_1 < b_1 < y - a_2, \\ && a_2 < y-b_1 < x_2 < \min(y - x_1, b_2) < y - a_1 \} \end{eqnarray*}

とする．これは下図の水色部分(A)と黄緑色部分(B)にあたる．

式(16) を積分範囲(33)で計算するとき，(A)，(B)の積分領域をそれぞれ S_A,S_B として，

(43)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} F_Y(y) \\ &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=& \frac{\partial }{\partial y} \iint_{S_A} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 + \frac{\partial }{\partial y} \iint_{S_B} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=:& (A) + (B) \end{eqnarray*}

となる．積分範囲に注意して (A)，(B) をそれぞれ計算する.

(A) については，積分範囲の場合分け(iii)における式(44)と同様の計算により，

(44)   \begin{equation*} (A) = f_{X_1}(y-b_2) \end{equation*}

を得る．

(B)についても，式(26)および式(37)と同様に，y による微分を，微分の定義に従って計算することに注意して，

(45)   \begin{eqnarray*} (B) &=& \frac{\partial }{\partial y} \iint_{S_B} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} \left\{ \int_{a_2}^{y-x_1} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left\{ \int_{a_2}^{y-x_1} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left\{ F_{X_2}(y-x_1) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \quad (\because F_{X_2}(a_2)=0) \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y+\Delta y-b_2}^{b_1} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \right \\ && \hspace{80pt} \left - \int_{y-b_2}^{b_1} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} \left + \int_{y+\Delta y-b_2}^{y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} \left - \int_{y-b_2}^{y+\Delta y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left\{ \lim_{\Delta y \to 0} \frac{1}{\Delta y}\left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) \right\} dx_1 \\ && \hspace{70pt} - \lim_{\Delta y \to 0} \frac{1}{\Delta y} \int_{y-b_2}^{y+\Delta y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) \frac{\partial }{\partial y} F_{X_2}(y -x_1) dx_1 \\ && \qquad - \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ f_{X_1}(y-b_2) F_{X_2}(y+\Delta y-(y-b_2)) \Delta y + \mathcal{O} \left(\frac{1}{\Delta y^2} \right) \right\} \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ && \hspace{30pt} - \lim_{\Delta y \to 0} f_{X_1}(y-b_2) F_{X_2}(\Delta y + b_2) + \lim_{\Delta y \to 0}\mathcal{O} \left(\frac{1}{\Delta y} \right) \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) F_{X_2}(b_2) \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) \quad (\because F_{X_2}(b_2)=1) \end{eqnarray*}

を得る．結局，

(46)   \begin{eqnarray*} (A) &=& f_{X_1}(y-b_2) \\ (B) &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) \end{eqnarray*}

となるので，

(47)   \begin{eqnarray*} f_Y(y) &=& (A)+(B) \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \end{eqnarray*}

を得る．さて，積分範囲(33)より，

(48)   \begin{eqnarray*} \min (b_1, y-a_2) &=& b_1 \\ \max(a_1, y - b_2) &=& y - b_2 \end{eqnarray*}

なので，

(49)   \begin{eqnarray*} f_Y(y) &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ &=&　\int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

を満たす．すなわち，式(47)は式(6)に帰着する．

確率変数の和と確率分布の再生性

X_1, X_2を，それぞれ分布関数F_{X_1},F_{X_2}\in {\mathcal F}に従う確率変数であるとする．このX_1, X_2の和Y:=X_1+X_2が従う分布関数F_{Y}も，元の確率分布と同じ関数族{\mathcal F}に含まれるとき，この分布は再生性(reproducing property)を持つ，という．

例えば，2つの確率変数X_1, X_2がそれぞれ{\rm Norm}(\mu_1,\sigma_1^2)，{\rm Norm}(\mu_1,\sigma_1^2)なる正規分布(normal distribution)に従うとき，2つの確率変数の和Y:= X_1 + X_2は{\rm Norm}(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)なる正規分布に従う．この事実を指して，「正規分布は再生性を持つ」という．

逆に，2つの確率変数の和が計算できるとしても，その分布が再生性を持たない場合もある．例えば，指数分布{\rm Exp(\lambda)}に従う2つの確率変数X_1, X_2の和Y:= X_1 + X_2は，{\rm Erlang(2,\lambda)}なるアーラン分布に従う．すなわち，和の分布が元の確率変数が従う分布とは異なるため，指数分布は再生性を持たない，といえる．

関連ページ：
正規分布(ガウス分布)の再生性の証明　は　こちら

アーラン分布の再生性の証明　は こちら

ガンマ分布の再生性の証明　は　こちら

ポアソン分布の再生性の証明　は　こちら

5 件のコメント

  • 著者様

    記事をいつも楽しく拝見しています、makotoと申します。
    確率変数の和の分布の証明の記事の（20）の3つ目のイコールのところで、偏微分が積分の中に入っていますが、ここは自明でしょうか？
    積分区間がyに依存していなければルベーグの収束定理からそのようになるかと思いますが、この例では積分区間がyに依存しているので、自明ではない気がします。
    宜しくお願いします。

    返信する

    • 本ページを全面的に改稿し，積分区間のｙ依存性に関しても明確に計算が追えるようにしました．

      返信する

    • motoko様

      コメントありがとうございます．

      ご指摘の通りで，x1の積分とyの偏微分の交換は，積分区間がyに依存するため，一般にはできませんね．

      微分の定義式に戻って書き下すとわかる通り，区間の端点が悪さをしなければよいので，「普通の」CDFを対象とする限りにおいて，これで和の分布を計算してしまいますが，
      本当はあらかじめ非積分関数に適切な制約条件を付すべきですね．

      返信する

    • コメントを残す

    メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

    RECOMMENDこちらの記事も人気です。