昨年度の研究により、フィードバック層が以前のデータをただ一つしか保持していないと、パターン列の長さが3以上では確実な結果が得られないということが分かっている。
従って、フィードバック層に中間層の出力をそのまま与えるのではなく、それ以前のデータも残るようにプログラムを組む。
残し方は昨年度同様、今あるフィードバック層のデータにある値 を掛け、それに中間層の出力を足したものを新しいフィードバック層のデータとする方法をとる。
今回は
として実験を行なった。
学習に用いる係数 ,
の値は、2通り試した結果、良い結果が得られた 0.15 , 0.2 を用いている。
学習回数100000回、500000回、1000000回のときの結果を図4.3〜図4.5 に示す。 ここでは、出力が0.5を越えた場合をニューロンが発火したとみることにする。 (学習回数およびニューロンの発火の判定条件は、すべての実験ともこれに同じである。)
なお、横軸のアルファベットの列は、学習終了後連続パターンの検出のためにニューラルネットワークに入力されたパターンである。 また、その下に時々ついているアスタリスク(*)は、発火すべき位置を示すためのマークである。 出力層のニューロンは三つあるため、グラフはニューロン1の出力を(a)、ニューロン2の出力を(b)、ニューロン3の出力を(c)としてある。