統計学 k-san.link

逆行列補題の証明【線形代数，統計学，制御工学 他】

逆行列補題（Sherman-Morrison-Woodbury 公式）の証明を行います．この補題は，最小二乗法から逐次形最小二乗法（再帰最小二乗フィルタ）を導出する際などに用いられます.

【スマホでの数式表示について】

当サイトをスマートフォンなど画面幅が狭いデバイスで閲覧すると，数式が画面幅に収まりきらず，正確に表示されない場合があります．その際は画面を回転させ横長表示にするか，ブラウザの表示設定を「PCサイト」にした上でご利用ください．

逆行列補題

逆行列補題（または Sherman-Morrison-Woodbury 公式）とは，次のようなものである．

逆行列補題(inverse matrix lemma)
Aをn\times n，Bをn\times m，Cをm\times nの行列(matrix)とし，I_mをm\times mの単位行列(unit matrix)とすると，次の等式が成り立つ：

(1)   \begin{equation*} (A+BC)^{-1} = A^{-1}-A^{-1}B(I_m+CA^{-1}B)^{-1}CA^{-1} . \end{equation*}

ただしA^{-1}はAの逆行列(inverse matrix)である．□

逆行列補題の証明

はじめに

(2)   \begin{eqnarray*} D&:=&A+BC \, , \\ H&:=&I_m+CA^{-1}B \, , \\ G&:=&A^{-1}-A^{-1}B(I_m+CA^{-1}B)^{-1}CA^{-1}\\ &=&A^{-1}-A^{-1}BH^{-1}CA^{-1} \end{eqnarray*}

などとおく．

DG=GD=I_nを示すことができれば，D^{-1}=Gすなわち上の逆行列補題(1)を示したことになる．

(i) DG=I_nの証明

    \begin{equation*} DG =(A+BC)\left\{ A^{-1}-A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1} \right\} \end{equation*}

上式右辺の\{ \; \}部分を展開する：

    \begin{equation*} DG=(A+BC)A^{-1} -(A+BC)A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1} \end{equation*}

(A+BC)を展開する：

    \begin{eqnarray*} DG &=& AA^{-1}+BCA^{-1} -AA^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1} \\ &&\quad \quad -BCA^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1} \end{eqnarray*}

右辺第1項，第3項でAA^{-1} = I_n とする：

    \begin{eqnarray*} DG&=&I_n + \underline{B}\;\underline{CA^{-1}} - \underline{B}\left(I_m+CA^{-1}B\right)^{-1}\underline{CA^{-1}}\\ &&\quad \quad -BCA^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1} \end{eqnarray*}

上式の下線部に注意して右辺第2項と第3項をまとめる：

    \begin{eqnarray*} DG&=&I_n + B \left\{ I_m - \underline{\left(I_m+CA^{-1}B\right)^{-1}} \right\}CA^{-1} \\ &&-BCA^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1} \end{eqnarray*}

右辺第2項で\{I-X^{-1}\}=\{IX-X^{-1}X\}X^{-1}=\{X-I\}X^{-1}のようにして，上式の下線部を\{\; \}の外に出す：

    \begin{eqnarray*} DG&=&I_n + B \left\{ \left(I_m+CA^{-1}B\right) - I_m \right\}\left(I_m+CA^{-1}B\right)^{-1} CA^{-1} \\ &&\quad \quad -BCA^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1} \end{eqnarray*}

右辺第2項を整理すると\left\{ \left(I_m+CA^{-1}B\right) - I_m \right\}=CA^{-1}Bなので

    \begin{eqnarray*} DG&=&I_n + \underline{BCA^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}} \\ &&\quad \quad - \underline{BCA^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}} \end{eqnarray*}

となり，右辺第2項と第3項が相殺する．よって

    \begin{equation*} DG=I_n \end{equation*}

を得る．

(ii) GD=I_nの証明

(i)と同様にして，GD=I_nを示すことができる：

    \begin{eqnarray*} GD &=& \left\{ A^{-1}-A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1} \right\} (A+BC) \\ && \\ &=& A^{-1}A + A^{-1}BC \\ && \qquad - A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}A \\ && \qquad - A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}BC \\ && \\ &=& I_n + A^{-1}BC \\ && \qquad - A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}A \\ && \qquad - A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}BC \\ && \\ &=& I_n + \underline{A^{-1}B}\;\underline{C} \\ && \qquad - \underline{A^{-1}B}\left(I_m+CA^{-1}B\right)^{-1}\underline{C} \\ && \qquad - A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}BC \\ && \\ &=& I_n + A^{-1}B\left\{I_m - \underline{\left(I_m+CA^{-1}B\right)^{-1}}\right\} C \\ && \qquad - A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}BC \\ && \\ &=& I_n + A^{-1}B\left(I_m+CA^{-1}B\right)^{-1} \left\{ \left(I_m+CA^{-1}B\right) - I_m \right\} C \\ && \qquad - A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}BC \\ && \\ &=& I_n + A^{-1}B \left(I_m+CA^{-1}B\right)^{-1}CA^{-1}BC \\ && \qquad -A^{-1}B\left(I_m+CA^{-1}B\right)^{-1}CA^{-1}BC \\ && \\ &=&I_n \end{eqnarray*}

(i)，(ii)より，D^{-1}=Gである．
よって逆行列補題(1)が証明された．■

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

RECOMMENDこちらの記事も人気です。