対象となるパターンを覚えさせる学習回数を50回だけとして、 他の学習パターンの個々の学習回数を変化させた。 この実験で用いる対象パターンはAからFである。 そして他の学習パターンは対象を省くAからFまでである。 これはAの場合、Aの初期学習が済んだ後、 BからFのパターンを個々に学習回数分だけ学習させ、ループさせる。 その時、対象となったパターンのAが想起できるか調べていくものである。 これは、他のパターンを学習していく中で 結合荷重が変化して対象となるパターンの記憶を いかに忘れていくかを調べたものである。 想起の方法として対象となる元のパターンをネットワークに入力して、 想起できるか否かを調べることで忘れていく過程を調べた。
図 5.3 は、Aを対象とした実験のグラフである。 横軸は覚えさせる他のパターンの個々の学習回数を指し、 縦軸は、学習パターンのセット数を増やしていって、 どれだけのセット数まで想起することができたかを示している。 しかし、この特性を見る前に図 5.6 と図 5.7 を 見る必要がある。 何故なら今回用いたAというパターンの結果が 他のパターンを対象にした結果と大きく違うからである。
特異な結果を示すAのパターンは、他のパターンの学習回数を増やしていくと、 対象となるパターンを覚えているセット回数が大きく伸びることがあった。 学習回数23回付近や、73回付近がそうである。
また、対象パターンが想起できなくなった状態で 出力されたパターンはAに似たものであった（図 5.4 参照）。 本来なら、他のパターンの影響を強めていくだけのネットワークなら 対象となるパターンが忘れ去られても当然のことである。
Aに似たパターンを想起した理由として、始めにAを学習したことがある。 初期学習をせず、対象となったAパターンを学習させなかった場合、 Aというパターンをニューラルネットに入力すると Dのパターンが想起された。Aの学習がなければAに似たパターンが想起 されないのである。
また、図 5.4 から、 出力されたパターンは形を見るとBとDの影響を受けていることがわかる。 この図のパターンは覚えさせるパターンの学習回数が52回になった時から 60回まで、また72回から80回まで想起された。 ここで図 2.6 のエネルギー関数を考えると、 例えばAのくぼみがあったならAはAとして想起することが出来る。 新たにBからFのパターンを学習して、Aのくぼ地が浅くなり、 Aのくぼみは坂の一部となる。 だからAを入力してもBやDのくぼみに流れ込むというものである。 しかし、ここで学習回数をある程度上げた時に、 BやDなどが互いに作用しあってくぼみが変化したときに、 これらの相互作用らによってAの記憶が強まったのではないかと考える。 Aのくぼみは、BとDを含む作用にあわせ、 微妙な位置に存在していると考えられる。 この影響は学習回数が72回から80回にかけても発生していて、 それ以外のところでは想起できるパターンはDに似たものと Dが1素子分だけずれた形が想起されたのである。
Aを対象として、学習パターンの学習回数をある回数まで増やすと 想起できるセット数が急に増えた。これには 学習させるパターンを完全に覚えたからという理由が考えられる。 この実験で用いたカオスニューラルネットは どのパターンを対象にしても学習回数が23回を越えた辺りで 全てのパターンの学習が成功する。 それまで覚えさせるパターンは全て学習することが出来なかった。 Aを対象にした実験では学習回数22回で BDE のパターンを学習することに成功し、 23回で全ての学習が成功した。図 5.3 では 学習回数が22回の時に覚えていたセット数が大きく伸びている。 これは、学習が成功することにより結合荷重を 変化させる必要がなくなったからではないだろうか。 このニューラルネットワークでは未知のパターンだと 結合荷重を変化させて学習するが 既知のパターンなら結合荷重を変化させることはない。 よって、何セットも学習を繰り返していく中で 完全に覚えたパターンは結合荷重を変化することがないため、 そのパターンで結合荷重を変化することはなくなり、 その分対象となるパターンの記憶は崩れにくくなると考えた。
このネットワークは学習をする際に結合荷重を変化させ、 それは結合荷重が変化した回数が多ければ多いほど、 そのパターンを学習しようとしたことになる。 Aを対象とした実験で、この結合荷重の変化数を調べたところ、 他のパターンよりもBやDのパターンによる結合荷重の変化数が多いことが分かった。 そこで、 Aを対象とした実験で個々の学習回数を5000回にしてみると変化数は 更にはっきりとしたものになった。上記の実験で、 20セット終了時のBのパターンの結合荷重の変化数が1886、 Dが1856、これに対しCが1677、Dが1667でFは1284であった。 また結合荷重は覚えさせるパターンの順番にも 変動する割合が違うことが分かった。 これは例えばEからFを覚えさせるものよりBからFの順番で学習させてみると、 Fの結合荷重の変化数の総和がBからFの方が多い。 EからFの順だと1284だったが、BからFの順番に切替えると2139と大幅に 結合荷重の変化数が増えた。 これは前パターンと形が違うほど覚えさせるパターンの特徴を覚えようとして、 結合荷重を変化させようとする働きがあるからである。 またBの次にFの順で学習させた場合、Aを入力するとFのパターンの影響が出て 図 5.5 の様になった。 この場合、Aの記憶に、BとDの影響だけでなくFの影響が加わっている。 図 5.4 と比べてみると若干の違いが分かる。
図 5.6 と図 5.7 はA以外の対象の結果である。 A以外のパターンではBパターンもまた、 学習回数が48回の時に12セットまで想起できることが確認できた。 学習回数が増えて66回以降になってからも想起できている。 この理由もまたAと同様の理由であると考える。 CからFには予想通りで、学習回数を上げることにより、 忘れる対象となるパターンはその想起できるセット回数が減少した。 学習回数が10回を越える時点でそのほとんどが想起できなかった。
