next up previous contents
Next: 評価理論 Up: バックプロパゲーション Previous: 学習方法1(後ろ向き演算)

学習方法2(後ろ向き演算)

  次に、入力層-中間層の結合荷重の計算について説明する。

結合荷重の修正量は、中間層-出力層と同じように、次の式で求められる。

  equation257

出力層の結合荷重を計算するときは、k 番目の出力 tex2html_wrap_inline1997 のみに注目していたが、 中間層の結合荷重を更新するときはn個の出力すべてが関係する。 この偏微分を行うには合成関数の微分を行う。これを行うと、中間層の結合荷重の修正量 tex2html_wrap_inline1999 を求める式は次のようになる。

  eqnarray264

それでは前節と同じようにこの式を計算していく。はじめの2つは前節と同じなので省略する。

ネット値 tex2html_wrap_inline2001 を中間層の出力 tex2html_wrap_inline2003 で偏微分する。

  eqnarray282

中間層の出力 tex2html_wrap_inline2003 をネット値 tex2html_wrap_inline1971 で偏微分する。

  eqnarray293

ネット値 tex2html_wrap_inline1971 を結合荷重 tex2html_wrap_inline1967 で偏微分する。

  eqnarray310

これらの式より、結合荷重の修正量は次のようになる。

  eqnarray320

このようにして出力層の結合荷重の修正量を求める。 [7]



Deguchi Lab.