next up previous contents
Next: 5.3 実験方法 Up: 第5章 実験 Previous: 5.1 実験目的

5.2 実験内容

  本研究では、過去に本研究室で研究されてきた逐次学習法 のカオスニューラルネットモデルを よりHebbの学習則に即した形に修正し、 その学習性能を従来のものと比較することを目的としている。 従来のモデルから変更を加えた点は次の2箇所である。

2つ目はカオスニューロンの学習条件である。 従来のカオスニューラルネットモデルでは ニューロン同士の結合荷重を変化させる際、 ネットワーク外部からの入力の項と、他のニューロンからの入力の 積の正負によって、結合を強めるか弱めるかを判断していたが、 4.1節で述べたように、そのニューロンへの入力と 出力から判断する方が、よりHebbの学習則に基づいた形であるといえる。

よって学習条件および学習式をを式(5.1)のように変更する。

  equation281

  equation284

tex2html_wrap_inline1577 は時刻 t の時の i 番目のカオスニューロンの出力、 tex2html_wrap_inline1583 は時刻 t-1 の時の j 番目のニューロンの出力、 つまり j 番目のカオスニューロンから i 番目のカオスニューロンへの フィードバック入力である。 tex2html_wrap_inline1593 は一度の学習における結合荷重の変化量で 今回の実験では tex2html_wrap_inline1595 とした。 式(5.1)で外部入力 tex2html_wrap_inline1617 を用いると、 ニューロンの出力が正しくない場合でも学習条件が成立してしまい、 間違った学習を行なう可能性があるので、 外部入力 tex2html_wrap_inline1617 に代わってニューロンの出力 tex2html_wrap_inline1409 を学習条件に用いている。

この学習式を用いると、入力が与えられてもしばらくの間は 相互結合の項の影響が強いため出力が安定しないが、 時間が経つにつれて徐々に外部入力の影響が大きくなり、 カオスニューロンの出力は外部入力と等しくなる。 このことから、式(5.1)の式を用いた場合、 従来の式(4.3)を用いた学習法に比べて 時間はかかるものの、正しく入力パターンを学習できることが 予想される。

2つ目は未知パターンと既知パターンの区別についてである。 従来のモデルでは入力パターンが変更されるたびに ニューロンの内部状態をリセットしていたが、 実際のニューロンは、次に与えられる入力が既知であるか未知であるかが あらかじめ分かっているわけではないため、 入力によって内部状態をリセットする、 しないの判断することは不可能である。 また、内部状態をリセットすると、それまでの内部状態の変化が 以降の学習に反映されず、不応性等の時間減衰パラメータが 意味を持たなくなる。そのため、内部状態のリセットを行なう機能は 本来のカオスニューロンには備わっていないと考えられる。 内部状態のリセットを行なわない場合、入力パターンが変化した直後は まだ前のパターンの内部状態の影響が大きく、 ネットワークはしばらくのあいだ前の入力パターンを出力し続ける。 しかし時間経過によって学習が進むと 内部状態が新しいパターンにあわせて変更され、 ネットワークは新しいパターンを出力するようになるはずである。 こちらも、従来のカオスニューラルネットモデルに比べると 学習に時間がかかると思われるが、より実物に即した 学習形態であると考えられる。



Deguchi Toshinori
Mon Feb 19 13:32:26 JST 2001