逐次学習法を用いて学習を行ない、結合荷重に何も処理を加えないネットワークでは40セット終了時にはすべてのパターンを学習することができた。
結合荷重に処理を加えたネットワークにより実験を行なったところ、 それぞれの結合荷重を対称にする処理のセットごとの学習結果は図 6.2 のようになった。
それぞれの、グラフのパラメータの意味は、「無処理」が何も結合荷重に処理を加えていない時、すなわち非対称のグラフである。 また「セ」と「文」はいつ処理を加えたを表し、「セ」は1セット終るごとに処理を加えたことを表し、「文」は1文字を50回学習した後に処理を加えたことを表す。
「平」は二つのニューロン間の結合荷重の平均をとり、元の結合荷重と付け替える処理を表し、「大」は二つのニューロン間の結合荷重の絶対値を比べ大きい方を元の二つの結合荷重と付け替える処理を表す。 そして、「小」は絶対値を比べ小さい方を二つの結合荷重を付け替える処理を表す。 40セット終った後に結合荷重に処理を加えるグラフは、40セット目まで無処理のグラフと同じ経過をたどるため省く。
40セット学習と結合荷重への処理を行なった後の学習個数は表 6.1 のようになった。
| 結合荷重に加えた処理 | 学習成功数 |
| 40セット後平均 | 23 |
| 40セット後絶対値の大きい方 | 25 |
| 40セット後絶対値の小さい方 | 14 |
| 1セットごと平均 | 26 |
| 1セットごと絶対値の大きい方 | 26 |
| 1セットごと絶対値の小さい方 | 22 |
| 1文字ごと平均 | 26 |
| 1文字ごと絶対値の大きい方 | 1 |
| 1文字ごと絶対値の小さい方 | 2 |
すべてのパターンを学習することができたものは、 セットごとに平均した結合荷重にする処理を行なったネットワークと、 セットごとに絶対値の大きい方に結合荷重を付け替える処理を加えたネットワーク、 一文字学習するごとに平均した結合荷重にする処理を行なったネットワークであった。 それ以外のネットワークはすべてのパターンを学習することができなかった。 しかし、7個以上の学習ができているネットワークについては、もっとも理想的なホップフィールドネットより学習ができているといえる。 これにより、おなじ対称な結合荷重を持ったネットワークでも、 逐次学習を用い学習を行ない対称な結合とした方が優れていることがわかる。
また、一文字学習するごとに絶対値の大きい方に付け替えるネットワークと 絶対値の小さい方に付け替えるネットワーク以外では完全には学習できなかったものの、 図 6.3 のように学習させようとしたパターンに近いものとなった。
左側の図はDのパターンを学習させようとしたものであり右のパターンはAのパターンを学習させようとしたものである。 Dのパターンは学習させようとしたパターンとひとマスだけしか違わない。 Aのパターンは40セット学習終了後絶対値の小さい方を結合荷重とするネットワークにおけるもので、先 ほどあげた二つのネットワークを除いて一番学習が悪かったパターンであり、 8マスの学習ができていなかった。 それでもAのパターンに近い結果となった。
しかし一文字学習するごとに絶対値の大きい方に付け替えるネットワークと 絶対値の小さい方に付け替えるネットワークにおいては、図 6.4 のような結果が出た。
左のパターンは絶対値の大きい方に付け替えるネットワークにおいてTのパターンを入力したときのものである。 元のパターンとは22個の違いがあり、半分近くのニューロンが Tのパターンを学習していないことになる。 また、真ん中のパターンはこのネットワークにおいてPのパターンを想起させようとしたもので 学習にEのパターンの影響を受けてしまっていることがわかる。 このネットワークでは結合荷重を絶対値の大きい方に付け替えるため セット数が進むにつれて結合荷重の大きさは大きくなっていってしまう。 すなわち、一つのニューロンの状態変化が、他のニューロンへ与える影響が 大きくなってしまう。 これによって、学習パターンが壊されてしまったと考えられる。
左のパターンは絶対値の小さい方に付け替えるネットワークで一番学習が悪かったAのパターンで、14個のニューロンが間違っていた。 この処理を行なったネットワークでは、 完全に学習したパターンは2個しかなかったものの、各パターンとも近い形の結果となった。 そこでセット数を増やせば学習が成功するのではないかと考え、セット数を200セットに 変更してこのネットワークに学習を行なった。 しかし、学習は良くならなかった。 このネットワークは絶対値の小さい方に結合荷重を付け替ているため、 結合を0へ近付けるようとする。 結合が0ということはニューロン間の結合がないことになる。 つまりこの処理はネットワークの結合を弱めようとすることになる。 一文字の学習が終るたび処理を行なっているため、 40セット行なう間にこの処理を行なう回数は全ネットワーク中で一番多い。 そのためネットワークの結合が弱くなってしまい、学習ができなかったと考えられる。
図 6.2 でセットごとに学習個数を見ていくと、 26個のパターンを学習させた時、 一文字学習するごとに結合荷重を平均したものにしたネットワークは、 非対称のネットワークよりも、学習効率が良くなっている。 また、非対称のネットワークに比べれば学習スピードは遅いもののすべてのパターンを学習するネットワークもあり、 またたとえすべて学習できてなかった処理でも従来のホップフィールドネットと比べれば 学習効率がよいことがわかった。 ここまでの結果では、処理により学習が良いネットワーク、悪いネットワークの差ができたが、結合の対称・非対称の点から見ると、非対称なネットワークの利点が見られなかった。 そこで学習させるパターンを増やしても同じように学習することができるかをさらに調べる。 また、セット数が少ないうちは非対称の結合荷重を持つネットワークより 対称のネットワークの方が学習が良いものがあることががわかる。 そこで、セット数が少ない時のネットワークについても調べる。
