学習３までは学習パターン列の入力回数を 1000回として行なってきた。それは 図 4.4、図 4.6、図 4.8 を 見れば、ニューロンの出力の結果が教師信号に完全に一致し、また出力値としても ほぼ１または０となっていたからである。
しかし 
、 
、 
の推移を見ると、まだわずかながら学習の余地が
あることがわかる。これらの値は少しの変化で動作が大きく変わる性質を持って
いるので、さらに学習させてみることにした。
学習１・２については学習のさせ方自体に問題があるので、学習３について 5000回の 学習を行なった。すると、学習パターン列に対する反応は図 4.19 の ようになり、非常に明確な反応を示している。平均誤差は 1000回のとき 0.1034 で あったのに対し、学習３改では 0.02046 になった。
このネットワークに、先ほどと同じ順番のランダムな入力パターンを与えたときの 結果を図 4.20 に示すが、学習 1000回の図 4.9 に 比べ、さらに改善されたことが分かる。
誤った反応を示す箇所について、発火すべきところで発火していない箇所は 1点、 そして発火すべきでないところで発火している箇所は 9点ある。 後者の場合について調べると、同図の上段左端から 5番目では W-X-T-T-W と 周期パターン１と酷似した入力であることが分かる。このように周期パターンと わずかな違いしかない場合に反応を誤っている。
図 4.19: 学習３で用いたパターン列（学習 5000 回）
図 4.20: 学習３のランダム入力に対する反応（学習 5000 回）