確率変数の和の分布を計算する【確率論,畳み込み】

【この記事の概要】

確率変数X1,X2が従う確率密度関数f1,f2が与えられたとき,その和Y:=X1+X2が従う確率密度関数fYを計算する一般的な方法を示します.

またこれにより,正規分布・ガンマ分布・指数分布などの和の分布を計算する際,分布ごとに畳み込みの積分範囲が異なる理由が明らかになります.

【スマホでの数式表示について】

当サイトをスマートフォンなど画面幅が狭いデバイスで閲覧すると,数式が画面幅に収まりきらず,正確に表示されない場合があります.その際は画面を回転させ横長表示にするか,ブラウザの表示設定を「PCサイト」にした上でご利用ください.

確率変数の和の分布

連続確率変数の和の分布

X_1, X_2を,結合確率密度関数(joint probability density function) f_{X_1,X_2} に従う連続確率変数とし,f_{X_1,X_2}の台(support)を

(1)   \begin{equation*} S_f:= \{(x_1,x_2)|a_1<x_1\le b_1, a_2<x_2\le b_2 \}\subseteq {\mathbb R}^2 \end{equation*}

とする.また,与えられたy \in {\mathbb R}に対して定まる{\mathbb R}^2の部分集合S_y

(2)   \begin{equation*} S_y:= \{(x_1,x_2)|x_1 + x_2<y} \} \subseteq {\mathbb R}^2 \end{equation*}

とする.これらの共通部分

(3)   \begin{eqnarray*} S&:=& S_f \cap S_y \\ &=&\{ (x_1,x_2)| x_1 + x_2 < y, a_1<x_1\le b_1, a_2<x_2\le b_2 \} \end{eqnarray*}

を用いて,確率変数の和 Y:=X_1+X_2 が従う確率密度関数 f_Y は,

(4)   \begin{equation*} f_Y(y) = \frac{\partial }{\partial y} \iint_S f_{X_1,X_2}(x_1, x_2) dx_1 dx_2 \end{equation*}

で計算される.

特に,確率変数 X_1, X_2 が確率論的に独立である(stochastically independent)とき,すなわち

(5)   \begin{equation*} f_{X_1,X_2}(x_1, x_2) = f_{X_1}(x_1) f_{X_2}(x_2) \end{equation*}

が成り立つとき,式(4)の計算をさらに進めることができ, f_Yf_{X_1}f_{X_2} の畳み込み(convolution)

(6)   \begin{equation*} f_Y(y) = \int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{equation*}

により得られる.\square

関連ページ

再生性を持つ分布

再生性を持たない分布

和の分布の計算のための準備

確率密度関数と累積分布関数

連続確率変数Yの確率密度関数f_Y(y)は,その累積分布関数

(7)   \begin{equation*} F_Y(y)=\Pr(Y<y) \end{equation*}

を用いて,

(8)   \begin{equation*} f_Y(y) = \frac{\partial}{\partial y} F_Y(y) \end{equation*}

と表すことができる.

また,式(8)の逆演算として,連続確率変数 Y の確率分布 \Pr(Y<y) および 累積分布関数 F_Y(y)は,確率密度関数 f_Y の積分で

(9)   \begin{eqnarray*} F_Y(y) &=& \Pr(Y<y) \\ &=& \int_{-\infty}^{y} f_{Y}(s) ds \end{eqnarray*}

のように書くことができる.

※ なお,一般に,公理的確率論においては確率測度の定義から始まるが,個別の分布を具体的な関数として与える際には,確率密度関数と累積分布関数のどちらで分布を定義し,どちらを二次的に導出するのかについて,原理的な優先順位が定まっているわけではない.

集合を用いた積分領域の表示

和の分布を計算する際に必要となる,集合を用いた積分領域の表示を導入する.

式(9)について,積分区間 (-\infty,y)\subset {\mathbb R} を,{\mathbb R} の部分集合 S として内包的に表示すると,

(10)   \begin{equation*} S=\{ s | s < y \in {\mathbb R}\}=(-\infty,y) \end{equation*}

などと書ける.(10)を用いて積分範囲を示すことにすると,式(9)は

(11)   \begin{eqnarray*} F_Y(y) &=& \Pr(Y<y) \\ &=& \int_S f_{Y}(s) ds \\ &=& \int_{\{ s | s < y \}} f_{Y}(s) ds \end{eqnarray*}

のように書くことができる.このような,集合を用いた積分領域の表示は,積分範囲に不連続点があるなど,「数直線上での単純な積分」でない場合に便利である.

和の分布は結合確率分布に関する制約条件付き積分で計算する

Y:=X_1 + X_2 を考える前の,2つの確率変数 X_1, X_2 に関する結合確率分布(joint probability distribution) \Pr(X_1<c_1, X_2<c_2) は,

(12)   \begin{equation*} \Pr(X_1<c_1, X_2<c_2)=\int_{-\infty}^{c_1} \int_{-\infty}^{c_2} f_{(X_1,X_2)}(x_1,x_2) dx_1 dx_2 \end{equation*}

である.

さて,定義より Y:=X_1+X_2 なので,

(13)   \begin{equation*} \Pr(Y<y) = \Pr(X_1 + X_2<y) \end{equation*}

である.右辺 \Pr(X_1 + X_2<y) は「ある値yを与えた時,確率変数 X_1,X_2 の任意の実現値の組 (x_1,x_2) に対して,x_1+x_2<yが成り立つ確率」を意味する.

\Pr(X_1 + X_2<y) の具体的な関数形は,確率変数 X_1,X_2 の結合確率分布(12)の積分範囲を,条件 x_1+x_2<y で制約することにより計算できる.

すなわち,和の分布 \Pr(X_1 + X_2<y) は,確率変数 X_1, X_2 に関する確率密度関数 f_{X_1,X_2}(x_1, y-x_1) の積分領域(3)について積分したものである.

和の分布の累積関数

和の分布 \Pr(X_1 + X_2<y) は,確率密度関数 f_{X_1,X_2}(x_1, y-x_1) を積分領域(3)で積分したものであるから,

(14)   \begin{eqnarray*} F_Y(y) &=&\Pr(Y<y) \\ &=& \Pr(X_1 + X_2<y) \\ &=& \iint_{ \{ (x_1,x_2)| x_1 + x_2 < y, \, a_1<x_1\le b_1, \, a_2<x_2\le b_2 \} } f_{(X_1,X_2)}(x_1,x_2) dx_1 dx_2\\ &=& \iint_S f_{(X_1,X_2)}(x_1,x_2) dx_1 dx_2 \end{eqnarray*}

のように書くことができる.

和の分布の確率密度関数

和の分布の確率密度関数 f_Y(y) は,累積分布関数(14) の微分

(15)   \begin{equation*} f_Y(y) = \frac{\partial }{\partial y} \iint_S f_{(X_1,X_2)}(x_1,x_2) dx_1 dx_2 \end{equation*}

により得られる.

確率変数の独立性の仮定

確率変数 X_1, X_2 が確率論的に独立であること(すなわち 式(5) )

    \begin{equation*} f_{X_1,X_2}(x_1, x_2) = f_{X_1}(x_1) f_{X_2}(x_2) \end{equation*}

を仮定すると,式(15)は

(16)   \begin{eqnarray*} f_Y(y) = \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \end{eqnarray*}

となる.このとき,X_1, X_2 の累積分布関を F_{X_1}, F_{X_2} とし,f_{X_1}, f_{X_2} の台 {\rm Supp}(f_{X_1}), {\rm Supp}(f_{X_2})

(17)   \begin{eqnarray*} {\rm Supp}(f_{X_1}) &=& \left\{ x_1 | a_1 < x_1 \le b_2 , \, x_1 \in {\mathbb R} \right\} \\ {\rm Supp}(f_{X_2}) &=& \left\{ x_1 | a_2 < x_2 \le b_2 , \, x_2 \in {\mathbb R} \right\} \end{eqnarray*}

とすると,累積分布関数の性質より,

(18)   \begin{eqnarray*} F_{X_1}(a_1)=0, \, F_{X_1}(b_1)=1, \, F_{X_1}(x) = \int_{a_1}^x f_{X_1}(t) dt\\ F_{X_2}(a_2)=0, \, F_{X_2}(b_2)=1, \, F_{X_2}(x) = \int_{a_2}^x f_{X_2}(t) dt \end{eqnarray*}

である.

和の分布の計算:独立性の仮定と積分領域の場合分け

確率変数 X_1, X_2 が確率論的に独立であることを仮定した上で,積分領域 S の場合分けを行い,式(16)を計算しよう.

以下において,積分領域 S を4つのケースに場合分けして計算を行うが,いずれの場合も

(19)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \\ &=& \int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

なる畳み込み積分(すなわち式(6))に帰着する.

積分領域の場合分け

積分領域(3)は,f_{X_1,X_2}の台を

    \begin{equation*} S_f:= \{(x_1,x_2)|a_1<x_1\le b_1, a_2<x_2\le b_2 \}\subseteq {\mathbb R}^2 \end{equation*}

とし,与えられたy \in {\mathbb R}に対して定まる{\mathbb R}^2の部分集合 S_y

    \begin{equation*} S_y:= \{(x_1,x_2)|x_1 + x_2<y} \} \subseteq {\mathbb R}^2 \end{equation*}

とした際の共通部分

    \begin{eqnarray*} S&:=& S_f \cap S_y \\ &=&\{ (x_1,x_2)| x_1 + x_2 < y, a_1<x_1\le b_1, a_2<x_2\le b_2 \} \end{eqnarray*}

であった.模式的には下図のように表せる:

すなわち,積分領域上の点 (x_1,x_2)\in S \subset {\mathbb R}^2 が満たすべき制約条件は

(20)   \begin{equation*} x_1 + x_2 < y \end{equation*}

(21)   \begin{equation*} a_1<x_1\le b_1 \end{equation*}

(22)   \begin{equation*} a_2<x_2\le b_2 \end{equation*}

であるが,積分(14)を実際に計算する際には,a_1,b_1,a_2,,b_2,y の値の大小により,次の4つのケースに場合分けされる.

    \begin{equation*} \begin{array}{lll} \text{(i)} & y - b_2 \le a_1 < x_1 < y - a_2 \le b_1, & y-b_1 < a_2 < x_2 < y - x_1 < y - a_1 \le b_2\\ \text{(ii)} & y - b_2 \le a_1 < x_1 < b_1 < y - a_2, & a_2 < y-b_1 < x_2 < y - x_1 < y - a_1 \le b_2 \\ \text{(iii)} & a_1 < y - b_2 < x_1 < y - a_2 \le b_1, & y-b_1 < a_2 < x_2 < \min(y - x_1, b_2) < y - a_1 \\ \text{(iv)} & a_1 < y - b_2 < x_1 < b_1 < y - a_2, & a_2 < y-b_1 < x_2 < \min(y - x_1, b_2) < y - a_1 \end{array} \end{equation*}

和の分布の計算:畳み込み積分の導出

上記 (i)~(iv) の場合分けに従って,実際に式 (16) の微分と積分を実行し,確率密度関数を計算する.

いずれの場合も,同一の畳み込み積分 (6) に帰着する.

積分範囲(i)の場合

式(16) の積分範囲 S

(23)   \begin{eqnarray*} S= \{ \quad (x_1,x_2) \quad | && y - b_2 \le a_1 < x_1 < y - a_2 \le b_1, \\ && y-b_1 < a_2 < x_2 < y - x_1 < y - a_1 \le b_2 \} \end{eqnarray*}

とする.これは下図の水色部分にあたる.

式(16) を積分範囲(23)で計算すると,

(24)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} F_Y(y) \\ &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} \left\{ \int_{a_2}^{y-x_1} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} f_{X_1}(x_1) \left\{ \int_{a_2}^{y-x_1} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} f_{X_1}(x_1) \left\{ F_{X_2}(y-x_1) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \quad (\because F_{X_2}(a_2)=0) \end{eqnarray*}

となる.さて,y による微分を行いたいが,積分区間が y を含むため,微分の定義

(25)   \begin{equation*} \frac{\partial \psy}{\partial y}:=\lim_{\Delta y \to 0} \frac{\psy(y+\Delta y)-\psy(y)}{\Delta y} \end{equation*}

に従ってこれを計算する.

(26)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} \int_{a_1}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{a_1}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \right \\ && \hspace{80pt} \left - \int_{a_1}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{a_1}^{y-a_2} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} \left + \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) \left\{ \lim_{\Delta y \to 0} \frac{1}{\Delta y}\left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) \right\} dx_1 \\ && \hspace{70pt} + \lim_{\Delta y \to 0} \frac{1}{\Delta y} \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) \frac{\partial }{\partial y} F_{X_2}(y -x_1) dx_1 \\ && \qquad + \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ f_{X_1}(y-a_2) F_{X_2}(y+\Delta y-(y-a_2)) \Delta y + \mathcal{O} \left(\frac{1}{\Delta y^2} \right) \right\} \\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ && \hspace{30pt} + \lim_{\Delta y \to 0} f_{X_1}(y-a_2) F_{X_2}(\Delta y + a_2) + \lim_{\Delta y \to 0}\mathcal{O} \left(\frac{1}{\Delta y} \right) \\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 + f_{X_1}(y-a_2) F_{X_2}(a_2) \\ &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \end{eqnarray*}

積分範囲(23)より,

(27)   \begin{eqnarray*} \min (b_1, y-a_2) &=& y-a_2 \\ \max(a_1, y - b_2) &=& a_1 \end{eqnarray*}

なので,

(28)   \begin{eqnarray*} f_Y(y) &=& \int_{a_1}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ &=& \int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

を満たす.すなわち,式(26)は式(6)に帰着する.

積分範囲(ii)の場合

式(16) の積分範囲 S

(29)   \begin{eqnarray*} S= \{ \quad (x_1,x_2)\quad | && y - b_2 \le a_1 < x_1 < b_1 < y - a_2, \\ && a_2 < y-b_1 < x_2 < y - x_1 < y - a_1 \le b_2 \} \end{eqnarray*}

とする.これは下図の水色部分にあたる.

式(16) を積分範囲(29)で計算すると,

(30)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} F_Y(y) \\ &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=& \frac{\partial }{\partial y} \int_{a_1}^{b_1} \left\{ \int_{a_2}^{y-x_1} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{b_1} f_{X_1}(x_1) \left\{ \int_{a_2}^{y-x_1} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{b_1} f_{X_1}(x_1) \left\{ F_{X_2}(y-x_1) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{b_1} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \quad (\because F_{X_2}(a_2)=0)\\ &=& \int_{a_1}^{b_1} f_{X_1}(x_1) \frac{\partial }{\partial y}F_{X_2}(y-x_1) dx_1 \\ &=& \int_{a_1}^{b_1} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

となる.積分範囲(29)より,

(31)   \begin{eqnarray*} \min (b_1, y-a_2) &=& b_1 \\ \max(a_1, y - b_2) &=& a_1 \end{eqnarray*}

なので,

(32)   \begin{eqnarray*} f_Y(y) &=& \int_{a_1}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ &=& \int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

を満たす.すなわち,式(30)は式(6)に帰着する.

積分範囲(iii)の場合

式(16) の積分範囲 S

(33)   \begin{eqnarray*} S= \{ \quad (x_1,x_2) \quad | && a_1 < y - b_2 < x_1 < y - a_2 \le b_1, \\ && y-b_1 < a_2 < x_2 < \min(y - x_1, b_2) < y - a_1 \} \end{eqnarray*}

とする.これは下図の水色部分(A)と黄緑色部分(B)にあたる.

式(16) を積分範囲(33)で計算するとき,(A),(B)の積分領域をそれぞれ S_A,S_B として,

(34)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} F_Y(y) \\ &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=& \frac{\partial }{\partial y} \iint_{S_A} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 + \frac{\partial }{\partial y} \iint_{S_B} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=:& (A) + (B) \end{eqnarray*}

となる.積分範囲に注意して,(A),(B) をそれぞれ計算すると,

(35)   \begin{eqnarray*} (A) &=& \frac{\partial }{\partial y} \iint_{S_A} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-b_2} \left\{ \int_{a_2}^{b_2} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-b_2} f_{X_1}(x_1) \left\{ \int_{a_2}^{b_2} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-b_2} f_{X_1}(x_1) \left\{ F_{X_2}(b_2) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{a_1}^{y-b_2} f_{X_1}(x_1) dx_1 \quad (\because F_{X_2}(b_2)=1, \, F_{X_2}(a_2)=0) \\ &=& \frac{\partial }{\partial y} \left\{ F_{X_1}(y-b_2) - F_{X_1}(a_1) \right\} \\ &=& f_{X_1}(y-b_2) \quad (\because F_{X_1}(a_1)=0) \\ \end{eqnarray*}

(36)   \begin{eqnarray*} (B) &=& \frac{\partial }{\partial y} \iint_{S_B} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-a_2} \left\{ \int_{a_2}^{y-x_1} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-b_2} f_{X_1}(x_1) \left\{ \int_{a_2}^{y-x_1} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-b_2} f_{X_1}(x_1) \left\{ F_{X_2}(y-x_1) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-b_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \quad (\because F_{X_2}(a_2)=0) \end{eqnarray*}

となる.さて,(B)については,積分範囲の場合分け(i)の際と同様に,y による微分を,微分の定義に従って計算する.すなわち,

(37)   \begin{eqnarray*} (B) &=& \frac{\partial }{\partial y} \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y+\Delta y-b_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \right \\ && \hspace{80pt} \left - \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} + \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ && \hspace{80pt} \left + \int_{y+\Delta y-b_2}^{y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} + \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ && \hspace{80pt} \left - \int_{y-b_2}^{y+\Delta y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) \left\{ \lim_{\Delta y \to 0} \frac{1}{\Delta y}\left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) \right\} dx_1 \\ && \hspace{70pt} + \lim_{\Delta y \to 0} \frac{1}{\Delta y} \int_{y-a_2}^{y+\Delta y-a_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ && \hspace{70pt} - \lim_{\Delta y \to 0} \frac{1}{\Delta y} \int_{y-b_2}^{y+\Delta y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) \frac{\partial }{\partial y} F_{X_2}(y -x_1) dx_1 \\ && \qquad + \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ f_{X_1}(y-a_2) F_{X_2}(y+\Delta y-(y-a_2)) \Delta y + \mathcal{O} \left(\frac{1}{\Delta y^2} \right) \right\} \\ && \qquad - \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ f_{X_1}(y-b_2) F_{X_2}(y+\Delta y-(y-b_2)) \Delta y + \mathcal{O} \left(\frac{1}{\Delta y^2} \right) \right\} \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ && \hspace{30pt} + \lim_{\Delta y \to 0} f_{X_1}(y-a_2) F_{X_2}(\Delta y + a_2) + \lim_{\Delta y \to 0}\mathcal{O} \left(\frac{1}{\Delta y} \right) \\ && \hspace{30pt} - \lim_{\Delta y \to 0} f_{X_1}(y-b_2) F_{X_2}(\Delta y + b_2) + \lim_{\Delta y \to 0}\mathcal{O} \left(\frac{1}{\Delta y} \right) \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ && \hspace{30pt} + f_{X_1}(y-a_2) F_{X_2}(a_2) - f_{X_1}(y-b_2) F_{X_2}(b_2) \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) \\ && \hspace{80pt} \quad (\because F_{X_2}(a_2)=0, \, F_{X_2}(b_2)=1) \end{eqnarray*}

結局,

(38)   \begin{eqnarray*} (A) &=& f_{X_1}(y-b_2) \\ (B) &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) \end{eqnarray*}

となるので,

(39)   \begin{eqnarray*} f_Y(y) &=& (A)+(B) \\ &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \end{eqnarray*}

を得る.さて,積分範囲(33)より,

(40)   \begin{eqnarray*} \min (b_1, y-a_2) &=& y-a_2 \\ \max(a_1, y - b_2) &=& y - b_2 \end{eqnarray*}

なので,

(41)   \begin{eqnarray*} f_Y(y) &=& \int_{y-b_2}^{y-a_2} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ &=& \int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

を満たす.すなわち,式(39)は式(6)に帰着する.

積分範囲(iv)の場合

式(16) の積分範囲 S

(42)   \begin{eqnarray*} S= \{ \quad (x_1,x_2) \quad | && a_1 < y - b_2 < x_1 < b_1 < y - a_2, \\ && a_2 < y-b_1 < x_2 < \min(y - x_1, b_2) < y - a_1 \} \end{eqnarray*}

とする.これは下図の水色部分(A)と黄緑色部分(B)にあたる.

式(16) を積分範囲(33)で計算するとき,(A),(B)の積分領域をそれぞれ S_A,S_B として,

(43)   \begin{eqnarray*} f_Y(y) &=& \frac{\partial }{\partial y} F_Y(y) \\ &=& \frac{\partial }{\partial y} \iint_S f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=& \frac{\partial }{\partial y} \iint_{S_A} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 + \frac{\partial }{\partial y} \iint_{S_B} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2\\ &=:& (A) + (B) \end{eqnarray*}

となる.積分範囲に注意して (A),(B) をそれぞれ計算する.

(A) については,積分範囲の場合分け(iii)における式(44)と同様の計算により,

(44)   \begin{equation*} (A) = f_{X_1}(y-b_2) \end{equation*}

を得る.

(B)についても,式(26)および式(37)と同様に,y による微分を,微分の定義に従って計算することに注意して,

(45)   \begin{eqnarray*} (B) &=& \frac{\partial }{\partial y} \iint_{S_B} f_{X_1}(x_1) f_{X_2}(x_2) dx_1 dx_2 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} \left\{ \int_{a_2}^{y-x_1} f_{X_1}(x_1) f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left\{ \int_{a_2}^{y-x_1} f_{X_2}(x_2) dx_2 \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left\{ F_{X_2}(y-x_1) - F_{X_2}(a_2) \right\} dx_1 \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \quad (\because F_{X_2}(a_2)=0) \\ &=& \frac{\partial }{\partial y} \int_{y-b_2}^{b_1} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1 \\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y+\Delta y-b_2}^{b_1} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \right \\ && \hspace{80pt} \left - \int_{y-b_2}^{b_1} f_{X_1}(x_1) F_{X_2}(y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} \left + \int_{y+\Delta y-b_2}^{y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) dx_1 \right \\ && \hspace{80pt} \left - \int_{y-b_2}^{y+\Delta y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1\right\}\\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) \left\{ \lim_{\Delta y \to 0} \frac{1}{\Delta y}\left( F_{X_2}(y+\Delta y-x_1) - F_{X_2}(y-x_1) \right) \right\} dx_1 \\ && \hspace{70pt} - \lim_{\Delta y \to 0} \frac{1}{\Delta y} \int_{y-b_2}^{y+\Delta y-b_2} f_{X_1}(x_1) F_{X_2}(y+\Delta y-x_1) dx_1 \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) \frac{\partial }{\partial y} F_{X_2}(y -x_1) dx_1 \\ && \qquad - \lim_{\Delta y \to 0} \frac{1}{\Delta y} \left\{ f_{X_1}(y-b_2) F_{X_2}(y+\Delta y-(y-b_2)) \Delta y + \mathcal{O} \left(\frac{1}{\Delta y^2} \right) \right\} \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ && \hspace{30pt} - \lim_{\Delta y \to 0} f_{X_1}(y-b_2) F_{X_2}(\Delta y + b_2) + \lim_{\Delta y \to 0}\mathcal{O} \left(\frac{1}{\Delta y} \right) \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) F_{X_2}(b_2) \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) \quad (\because F_{X_2}(b_2)=1) \end{eqnarray*}

を得る.結局,

(46)   \begin{eqnarray*} (A) &=& f_{X_1}(y-b_2) \\ (B) &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 - f_{X_1}(y-b_2) \end{eqnarray*}

となるので,

(47)   \begin{eqnarray*} f_Y(y) &=& (A)+(B) \\ &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \end{eqnarray*}

を得る.さて,積分範囲(33)より,

(48)   \begin{eqnarray*} \min (b_1, y-a_2) &=& b_1 \\ \max(a_1, y - b_2) &=& y - b_2 \end{eqnarray*}

なので,

(49)   \begin{eqnarray*} f_Y(y) &=& \int_{y-b_2}^{b_1} f_{X_1}(x_1) f_{X_2}(y -x_1) dx_1 \\ &=& \int_{\max(a_1, y - b_2)}^{\min (b_1, y-a_2)} f_{X_1}(x_1) f_{X_2}(y-x_1) dx_1 \end{eqnarray*}

を満たす.すなわち,式(47)は式(6)に帰着する.

確率変数の和と確率分布の再生性

X_1, X_2を,それぞれ分布関数F_{X_1},F_{X_2}\in {\mathcal F}に従う確率変数であるとする.このX_1, X_2の和Y:=X_1+X_2が従う分布関数F_{Y}も,元の確率分布と同じ関数族{\mathcal F}に含まれるとき,この分布は再生性(reproducing property)を持つ,という.

例えば,2つの確率変数X_1, X_2がそれぞれ{\rm Norm}(\mu_1,\sigma_1^2){\rm Norm}(\mu_1,\sigma_1^2)なる正規分布(normal distribution)に従うとき,2つの確率変数の和Y:= X_1 + X_2{\rm Norm}(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)なる正規分布に従う.この事実を指して,「正規分布は再生性を持つ」という.

逆に,2つの確率変数の和が計算できるとしても,その分布が再生性を持たない場合もある.例えば,指数分布{\rm Exp(\lambda)}に従う2つの確率変数X_1, X_2の和Y:= X_1 + X_2は,{\rm Erlang(2,\lambda)}なるアーラン分布に従う.すなわち,和の分布が元の確率変数が従う分布とは異なるため,指数分布は再生性を持たない,といえる.

関連ページ:
正規分布(ガウス分布)の再生性の証明 は こちら

アーラン分布の再生性の証明 は こちら

ガンマ分布の再生性の証明 は こちら

ポアソン分布の再生性の証明 は こちら

5 件のコメント

  • 著者様

    記事をいつも楽しく拝見しています、makotoと申します。
    確率変数の和の分布の証明の記事の(20)の3つ目のイコールのところで、偏微分が積分の中に入っていますが、ここは自明でしょうか?
    積分区間がyに依存していなければルベーグの収束定理からそのようになるかと思いますが、この例では積分区間がyに依存しているので、自明ではない気がします。
    宜しくお願いします。

    • 本ページを全面的に改稿し,積分区間のy依存性に関しても明確に計算が追えるようにしました.

    • motoko様

      コメントありがとうございます.

      ご指摘の通りで,x1の積分とyの偏微分の交換は,積分区間がyに依存するため,一般にはできませんね.

      微分の定義式に戻って書き下すとわかる通り,区間の端点が悪さをしなければよいので,「普通の」CDFを対象とする限りにおいて,これで和の分布を計算してしまいますが,
      本当はあらかじめ非積分関数に適切な制約条件を付すべきですね.

  • コメントを残す

    メールアドレスが公開されることはありません。 が付いている欄は必須項目です