学習中の誤差の変化のグラフを図8.1に示す。 横軸が学習回数で、縦軸が学習が一周期分進んだときの、一周期中の教師信号と出力値との最大誤差である。 誤差は学習が進むにつれ単調に減少するのではなく、時折大きくなるところもある。学習回数が1億数1000万回進んだところで誤差が急激に増加しており、その後も時折不安定な変化をして、学習回数が約3億回を超えた後はほとんど0に近い値で安定している。
図 8.1: 学習中の誤差の変化
