正規分布の特性関数の導出・計算・求め方【確率論】

【スマホでの数式表示について】

当サイトをスマートフォンなど画面幅が狭いデバイスで閲覧すると,数式が画面幅に収まりきらず,正確に表示されない場合があります.その際は画面を回転させ横長表示にするか,ブラウザの表示設定を「PCサイト」にした上でご利用ください.

正規分布の特性関数とは

正規分布の特性関数
正規分布(normal distribution) {\rm Norm}(\mu, \sigma2) の特性関数(characteristic function)とは,次式で表される関数 \Phi_{\rm norm} である.
 

(1)   \begin{equation*} \Phi_{\rm norm}(\xi) = \exp \left\{ i\xi \mu - \frac{\xi^2\sigma^2}{2} \right\} \end{equation*}

 
ただし,iは虚数単位である.

関連ページ:
(特性関数の一般的定義)
特性関数・積率母関数(モーメント母関数)・キュムラント:定義と意味,期待値(平均)・分散との関係【確率論】
(中心極限定理の証明には特性関数を用いる)
中心極限定理の証明と意味:正規分布の特性関数と分布収束【確率論】

正規分布の特性関数を確率密度関数から計算・導出する

正規分布の特性関数を,定義に従って確率密度関数から導出しよう.

確率変数Xに対する特性関数の一般的定義は

(2)   \begin{equation*} \Phi_X(\xi) := E\left[e^{i\xi X}\right]  \end{equation*}

である.また,正規分布の確率密度関数は

(3)   \begin{equation*} f_{X}(x) = \frac{1}{\sqrt{2\pi}\sigma} \exp{\left\{ -\frac{(x-\mu)^2}{2\sigma^2} \right\}} \quad \left(\;^{\forall} x\in (-\infty, \infty) \right) \end{equation*}

である.式(2),式(3)より,正規分布の特性関数は

(4)   \begin{eqnarray*} &&\Phi_X(\xi) \\ &&= E\left[e^{i\xi X}\right] \\ &&= \int_{-\infty}^{\infty} f_X(x) \; e^{i\xi x} \; dx \\ &&= \int_{-\infty}^{\infty} \frac{1}{\sqrt{2\pi}\sigma} \exp{\left\{ -\frac{(x-\mu)^2}{2\sigma^2} \right\}} \cdot \exp\left\{i\xi x \right\} \; dx \\ &&= \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty}  \exp{\left\{ -\frac{(x-\mu)^2}{2\sigma^2} + i\xi x  \right\}} \; dx \\ \end{eqnarray*}

を計算することにより得られる.

式(4)の被積分関数

(5)   \begin{equation*} \exp{\left\{ -\frac{(x-\mu)^2}{2\sigma^2} + i\xi x  \right\}} \end{equation*}

の指数部を展開して,平方完成しなおすことにより,式(4)をガウス積分の形に持っていけばよい.すなわち,

(6)   \begin{eqnarray*} &&-\frac{(x-\mu)^2}{2\sigma^2} + i\xi x\\ && = -Ax^2 +2A\mu x -A \mu^2 + i\xi x \quad\left( A:= \frac{1}{2\sigma^2} \right) \\ && = -Ax^2 +\left(2A\mu + i \xi \right) x -A \mu^2 \\ && = -A \left\{ x^2 - 2 \frac{B}{A} x + \frac{B^2}{A^2} \right\} + \frac{B^2}{A} -A \mu^2 \quad \left(B:= A\mu + i \frac{\xi}{2} \right)\\ && = -A \left\{ x - \frac{B}{A} \right\}^2 + \frac{B^2}{A} -A \mu^2  \end{eqnarray*}

より,これを式(4)に戻して,xに依存しない項を積分の外に出すことにより,

(7)   \begin{eqnarray*} &&\Phi_X(\xi) \\ &&= \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty}  \exp{\left\{ -\frac{(x-\mu)^2}{2\sigma^2} + i\xi x  \right\}} \; dx \\ &&= \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty}  \exp{\left[ -A \left\{ x - \frac{B}{A} \right\}^2 + \frac{B^2}{A} -A \mu^2   \right]} \; dx \\ &&= \frac{1}{\sqrt{2\pi}\sigma} \int_{-\infty}^{\infty}  \exp{\left[ -A \left\{ x - \frac{B}{A} \right\}^2   \right]} \cdot \exp{\left[ \frac{B^2}{A} -A \mu^2   \right]} \; dx \\ &&= \frac{1}{\sqrt{2\pi}\sigma} \exp{\left[ \frac{B^2}{A} -A \mu^2   \right]}  \int_{-\infty}^{\infty}  \exp{\left[ -A \left\{ x - \frac{B}{A} \right\}^2   \right]} \; dx \\ \end{eqnarray*}

となる.さらに,変数変換とガウス積分の公式を用いることにより,計算を進めると,

(8)   \begin{eqnarray*} &&\Phi_X(\xi) \\ &&= \frac{1}{\sqrt{2\pi}\sigma} \exp{\left[ \frac{B^2}{A} -A \mu^2   \right]}  \int_{-\infty}^{\infty}  \exp{\left[ -A \left\{ x - \frac{B}{A} \right\}^2   \right]} \; dx \\ &&= \frac{1}{\sqrt{2\pi}\sigma} \exp{\left[ \frac{B^2}{A} -A \mu^2   \right]}  \int_{-\infty}^{\infty}  \exp{\left[ -A z^2   \right]} \; dx \quad \left( z:= x - \frac{B}{A}  \right)\\ &&= \frac{1}{\sqrt{2\pi}\sigma} \exp{\left[ \frac{B^2}{A} -A \mu^2   \right]} \cdot \sqrt{\frac{\pi}{A}} \end{eqnarray*}

を得る.式(6)での置き換え

(9)   \begin{eqnarray*} A&:=& \frac{1}{2\sigma^2} \\ B&:=& A\mu + i \frac{\xi}{2} = \frac{\mu}{2\sigma^2} + i \frac{\xi}{2} \end{eqnarray*}

を,式(8)に戻すと,

(10)   \begin{eqnarray*} \Phi_X(\xi) &&= \frac{1}{\sqrt{2\pi}\sigma} \exp{\left[ \frac{B^2}{A} -A \mu^2   \right]} \cdot \sqrt{\frac{\pi}{A}}\\ &&= \frac{1}{\sqrt{2\pi}\sigma} \cdot \sqrt{2\pi \sigma^2} \cdot \exp{\left[ \frac{B^2}{A} -A \mu^2   \right]} \\ &&= \exp{\left[ \frac{\left( A\mu + i \frac{\xi}{2} \right)^2}{A} -A \mu^2   \right]}\\ &&= \exp{\left[ A\mu^2+i\xi \mu - \frac{\xi^2}{4A} -A \mu^2   \right]}\\ &&= \exp{\left[ i\xi \mu - \frac{\xi^2}{4\cdot \frac{1}{2\sigma^2}}   \right]} \\ &&= \exp{\left[ i\xi \mu - \frac{\xi^2 \sigma^2}{2}}   \right]} \\ \end{eqnarray*}

となり,正規分布の特性関数(1)が得られる.

正規分布の特性関数:部分積分による求式

標準正規分布の特性関数:部分積分による求式

上記では、確率密度関数から平方完成によって導出しているが,ここでは標準正規分布の場合を部分積分によって求める.

標準正規分布{\rm Norm}(0,1)に従う確率変数Zの確率密度関数は,

(11)   \begin{equation*} f_Z(z)=\frac{1}{\sqrt{2\pi}}\exp\left\{-\frac{z^2}{2}\right\} \end{equation*}

である.したがって,

(12)   \begin{equation*} \Phi_Z(\xi)=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^{\infty}e^{i\xi z}e^{-z^2/2}\,dz \end{equation*}

と表される.\xiについて微分すると,

(13)   \begin{equation*} \frac{d}{d\xi} \Phi_Z (\xi)=\frac{i}{\sqrt{2\pi}}\int_{-\infty}^{\infty}z e^{i\xi z}e^{-z^2/2}\,dz \end{equation*}

を得る.微分と積分の交換は,|z|e^{-z^2/2}が可積分であることから正当化される.ここで,

(14)   \begin{equation*} z e^{-z^2/2}=-\frac{d}{dz}e^{-z^2/2} \end{equation*}

であるから,部分積分によって,

(15)   \begin{eqnarray*} \frac{d}{d\xi} \Phi_Z(\xi) &=& -\frac{i}{\sqrt{2\pi}}\int_{-\infty}^{\infty}e^{i\xi z}\frac{d}{dz}e^{-z^2/2}\,dz \\ &=& -\frac{i}{\sqrt{2\pi}}\left\{\left[e^{i\xi z}e^{-z^2/2}\right]_{-\infty}^{\infty}-i\xi\int_{-\infty}^{\infty}e^{i\xi z}e^{-z^2/2}\,dz\right\} \\ &=& -\frac{\xi}{\sqrt{2\pi}} \int_{-\infty}^{\infty}e^{i\xi z}e^{-z^2/2}\,dz \\ &=& -\xi\Phi_Z(\xi) \end{eqnarray*}

となる.第2行の境界項は,e^{-z^2/2}\to 0(z\to\pm\infty)より0である.したがって,\Phi_Z(\xi)は微分方程式

(16)   \begin{equation*} \frac{d}{d\xi}\Phi_Z(\xi)=-\xi\Phi_Z(\xi) \end{equation*}

を満たす.この式より、

(17)   \begin{equation*} \frac{d}{d\xi}\left\{e^{\xi^2/2}\Phi_Z(\xi)\right\}=0 \end{equation*}

が成り立つ.なぜなら,

(18)   \begin{eqnarray*} && \frac{d}{d\xi}\left\{e^{\xi^2/2}\Phi_Z(\xi)\right\}=0 \\ && \frac{d}{d\xi}e^{\xi^2/2} \Phi_Z(\xi) + e^{\xi^2/2} \frac{d}{d\xi} \Phi_Z(\xi) = 0 \\ && \xi e^{\xi^2/2} \Phi_Z(\xi) + e^{\xi^2/2} \frac{d}{d\xi} \Phi_Z(\xi) = 0 \\ && e^{\xi^2/2} \left\{ \xi \Phi_Z(\xi) +  \frac{d}{d\xi} \Phi_Z(\xi) \right\} = 0 \\ && \xi \Phi_Z(\xi) +  \frac{d}{d\xi} \Phi_Z(\xi) = 0 \quad (e^{\xi^2/2} \not= 0)  \end{eqnarray*}

であるから.
結局、微分方程式(17)の解として、\Phi_Z(\xi)=C e^{-\xi^2/2}を得る.
特性関数の定義から\Phi_Z(0)=E[1]=1であるため,C=1であり,

(19)   \begin{equation*} \Phi_Z(\xi)=\exp\left\{-\frac{\xi^2}{2}\right\} \end{equation*}

を得る.

一般の正規分布の特性関数

確率変数Xが{\rm Norm}(\mu,\sigma^2)に従うとき,Z:=(X-\mu)/\sigmaは標準正規分布に従う.ゆえにX=\mu+\sigma Zと表せる.このとき,

(20)   \begin{eqnarray*} \Phi_X(\xi) &=& E\left[e^{i\xi X}\right] \\ &=& E\left[e^{i\xi(\mu+\sigma Z)}\right] \\ &=& e^{i\xi\mu}E\left[e^{i(\sigma\xi)Z}\right] \\ &=& e^{i\xi\mu}\Phi_Z(\sigma\xi) \\ &=& e^{i\xi\mu}\exp\left\{-\frac{\sigma^2\xi^2}{2}\right\} \\ &=& \exp\left\{i\xi\mu-\frac{\xi^2\sigma^2}{2}\right\} \end{eqnarray*}

となり,式(1)が得られる.

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です