学習の形態はそれぞれに違いがあるが、学習法2と3は ニューロンの内部状態をリセットするという特性のため、 学習に要する時間等が学習法1と4とは大きく異なるので、 まず、同じスケールで比較の行ないやすい 学習法1と学習法4を比較する。
図 6.4 は、総学習回数を10000回にして、 学習ステップ数を0から50まで変化させた時の、 学習成功数の変化の様子を学習法1と学習法4で比較したものである。 入力パターンの総数は図 6.4 では40種類、 図 6.5 では60種類である。 入力が切り替わるとたびにニューロンの内部状態をリセットしており、 その動作に1ステップ必要になるので、実際に学習を行なうことができるのは、 入力ステップ数が2以上の時である。
学習法1と学習法4に共通して言える事は、 学習ステップ数が少ない方が学習成功数は多くなるという事である。 特に、学習法4においては学習ステップ数の増加による 学習成功数の減少が著しい。
1番目〜40番目の入力を１通り学習させ、 それを学習の1セットとすると、学習ステップ数が2の時は 各パターンは1ステップずつ125セット学習することになる。 学習ステップ数が40の時は、 各パターンは39ステップずつ、約6セット学習することになる。 1つのパターンを学習する総時間は学習ステップ数が2の時が125回、 40の時が約240回となっており、40の時の方が はるかに長時間学習しているといえるが、 学習法4においては学習成功数は学習ステップ数が2の時が最大である。 このことから、パターンを1種類ずつ長時間学習させるよりも、 多くのパターンを少しずつ何度も学習させる方が 学習効率は良いと言える。 図 6.4 と図 6.5 を比較すると、 入力パターン数が多くなるほどこの特徴が顕著に現れることがわかる。
そうなった理由として、以下のものが考えられる。 1つのパターンを時間をかけて完全に学習させても、 他のパターンを学習させることによって結合荷重は必ず変化し、 始めに覚えたパターンが少なからず崩れてくることは避けられない。 必然的に、始めの方に学習したパターンは 多くのパターンを学習するにつれて次第に薄れていく。 しかし、学習セット数が多ければ一度薄れてしまったパターンを再び 学習し直すことができ、すべての入力パターンに対して均等な 学習を行なうことができるのである。
一方、学習法1の場合学習ステップ数が2の時は 学習成功数は僅かに5個である。 カオスニューラルネットは、パターンが入力されると そのパターンを想起しようとする。その際想起にかかる時間は ネットワークがそのパターンをどれだけ学習できているかによる。 学習法4は学習のために外部からの入力と 他のニューロンからの入力を用いるため、外部入力が常に学習パターンとして ネットワークに与えられている。学習は外部入力項と相互結合項が 異符号のときに行われるが、この条件が成り立つときは ネットワークの結合荷重は必ず正しい方向に起こる。 学習法1では学習のためにそのニューロンの出力と他のニューロンの 出力との相関を用いるため、学習条件が成り立っても正しい学習を 行う事ができるとは限らない。つまり、 出力に学習させたいパターンが現れないと正しい学習を行う事ができない。 学習ステップ数が少ないと入力したパターンをネットワークが認識して学習を 始める前に入力が次のパターンへと移り変わってしまう事が多く、 入力パターンに合わせた結合荷重の変化を行う事が難しいため 学習セット数が多くても学習は成功しないのである。 学習法1で学習成功数が最大になるのは、学習ステップ数が少な過ぎず 学習セット数も少な過ぎない領域であるが、学習パターン数が多くなると その兼ね合いがとれなくなり、必ずどちらかが不足するようになる。 結果、学習できるパターン数はやがて限界となる。 図 6.4 では入力パターン数が40個に対して 学習成功数の限界は37個で、図 6.5 では入力パターン数 が60個に対して学習成功数の限界は42個である。
最大学習成功数は学習法1に比べ学習法4の方が優れているが、 学習ステップ数の増加による学習成功数の減少の度合は 学習法4の方が大きく、学習ステップ数が約30で学習法1と 学習法4の学習成功数は逆転する。 つまり、学習セット数が少ない場合は学習法1の方が より多くのパターンを学習できるということである。
