連想記憶におけるニューラルネットワークの動作は大きく分けて二つに分類される。それは学習段階と想起段階である。
本研究の目的は5.1節で述べたように学習法の違いによる連想記憶における性能の相違を調べ、それを評価、検討するというものであるため想起段階でのニューラルネットワークの動作は同じでなければならない。 また、カオスニューラルネットワークにおいても、一度入力パターンの学習が完了したら想起段階ではそのネットワークの動作はホップフィールドネットの動作と全く違いがない。
そこで本研究では次のような方法を用いた。
まず学習段階では各々の学習法をもちいた個別のニューラルネットワークで同じパターンを学習させる。そして、学習結果である結合荷重をとりだし想起段階としてホップフィールドネットにその結合荷重を割り当て、以下のような方法で想起させ性能を調べた。また局所的学習の性能を様々な角度から検討するため、学習回数の違いや学習パターン数の違い、結合荷重の変位の違いなどいろいろな条件付けを行ない、そこから取り出した結合荷重を割り当てたホップフィールドネットの動作の相違を調べた。
ホップフィールドネットのアルゴリズム
本来のホップフィールドネットでは結合荷重の割り当ては式(4.1)で行なわれるが、このアルゴリズムは想起段階をシミュレーションするためのものであるため、 結合荷重は各々のニューラルネットで取り出したものを割り当てる。
この式で (t)はi番目のニューロンの時刻tでの出力、
は+1か-1の値をとり、入力パターンのi番目の要素である。
入力パターンにノイズをのせる場合、初期化する前にパターンにノイズをのせ、それで初期化する。
はi番目のニューロンからj番目のニューロンへの結合荷重であり、関数fは図2.3のような階段関数である。
この処理をニューロンの出力が変化しなくなるまで続けることにより、このネットワークの出力は入力パターンともっとも一致するパターンを出力する。