学習方法

ネットワークに学習させるパターンは、1、$-1$の2値からなるランダムのパターンとした。ただし1と$-1$は必ず同数となるようにした。

パターンをネットワークに学習させるために、4.2節に説明した逐次学習法を用いた。

$i$番目のパターンを入力したネットワークで全てのニューロンの状態を更新し、 逐次学習法により$i$番目のパターンを学習させる （条件式(4.1)の成立するニューロンの結合荷重を 式(4.2)に従い変化させる）。 これを50回繰り返した後、($i+1$)番目のパターンを同様に入力し、 連続して50回学習させる。 このようにして全てのパターンについて順に学習させていく。 （最初のパターンから最後のパターンまで順に50回ずつ学習させることを1セットと呼ぶ。） 本実験では100セットの学習を行なった。

100セットの学習が終了したネットワークと同一の素子数、 同一の結合荷重値を持つマカロック・ピッツのニューロンモデルにより構成された 相互結合型ニューラルネットワークに対して、学習させたパターンを入力し、 その出力が入力と全く同一のパターンであるとき、 そのパターンの学習が成功したと見做す。

100セットの学習が終了した後、外部入力$A_j(t)$を全て0として、 3000回ネットワークの状態を更新させ、動的想起状態とした。 学習したパターンと同一のパターンが想起されたとき、 そのパターンの想起が成功したという。 ネットワークの状態を3000回更新する中で、何種類のパターンが想起されたかを調べた。

動的想起においてパターンは周期性を持って出力される。状態を更新する回数を3000回としたのは、その周期を含むのに十分となる数のためである。

これを実際に動作させると、図 5.2のようなデータが得られる。この図は素子数$U$が200で$\Delta w$が0.030の状態である。横軸が学習させたパターンの数、縦軸がそのときに学習および想起できたパターンの数である。学習成功数は常に学習させたパターン数と等しい、いわゆる完全学習が行われていることがわかる。また想起では学習に失敗したパターンを想起することはできないため、学習成功数$\geq$想起成功数となる。本研究では内容上、常に完全学習が行われていなければならない。

想起成功数を見ると、30パターンまではたいていの場合に全ての学習パターンを想起することに成功しているが、それ以降は急激に想起成功数が減少している。つまりこの状態では30パターンを超えた学習を行うとほぼ全く想起できなくなってしまうのである。

この状態で最も想起に成功したのは学習させたパターン数が30個のときで、またこの時には学習したすべてのパターンの想起に成功している。

想起成功数を評価する際には、学習させたパターンのうち何パターン想起できたかで求める想起率というものもあるが、本実験ではその状態で最も想起に成功したときの想起成功数に重点を置き、それぞれの場合でのそれについて調べる。これは、最大想起成功数の場合には想起率も1かそれに近い値となるためである。

図 5.2: $U$=200 $\Delta w$=0.030での学習成功数と想起成功数