まず、教師信号のデータ数を固定し、更に 遅れ時間以外の学習パラメータを固定した状態で、 内部記憶を持つニューラルネットワークに 短い周期を繰り返すような簡単な時系列を さまざまな遅れ時間、ネットワークの素子数によって学習させた。 その結果、学習させる時系列に有効な遅れ時間は 各素子数によって決まり、 また、教師信号の波形によっても決まる可能性が高いことがわかった。
さらに、内部記憶をもつニューラルネットワークに学習させる場合に、 中間素子数、内部記憶素子数、遅れ時間の違いが 計算時間にどのような影響を与えるか検証した。
その結果、遅れ時間、内部記憶素子、中間素子の全てにおいて 増やすことで計算時間が線形的に増加していくことが分かった。 その変化の割合は全て異なっており、中間素子、内部記憶素子、遅れ時間 の順で変化の割合は大きいことが確認できた。
以上のことから、 内部記憶を持つニューラルネットワークに 遅れ学習法を用いて時系列を学習させる場合、 有効な遅れ時間は教師信号の波形や各素子数によって 決めることが必ず有効であるとはいえないが 効果的であることが示された。 また、効率的に学習を行うには、 学習が出来る範囲で、素子数を減らし、 小さい遅れ時間で学習するのが効率的であると分かった。 さらに、これらの計算時間の変化の割合から、 中間素子、内部記憶素子、遅れ時間の優先順位で小さくするのが 最も効率的であると分かった。
実験を通して、 学習が成功しやすい遅れ時間は どの素子数、波形においても教師信号の半周期ほどの 遅れ時間で現れる可能性が高いことが確認された。 また、中間素子数はどの波形が教師信号であった場合でも少なすぎると学習しなかった。 そして、ある程度多くなると 学習結果はそこから変わらないという結果となった。つまり、遅れ学習法で学習をさせるには、 ある程度の中間素子数があれば多くはいらないということが分かった。 この学習結果が変わらなくなるという 中間素子数の閾値は教師信号の波形によって違いがあったため、 閾値は教師信号の波形に依存している可能性が高いと確認された。
さらに、学習をさせるのに内部記憶素子数は多くはいらないということが分かった。 内部記憶素子数での学習結果の大きな違いというものは 素子数が少ない時に比べて多いときの方が学習できる遅れ時間数が 多くなるということであった。 内部記憶素子数が少ない場合であっても、ある程度の中間素子数があれば 学習できる遅れ時間は存在したため、多く内部記憶素子をとる必要はないと言える。 しかし、この結果にも教師信号の波形によって違いがあったため、波形によっては 内部記憶素子数が多めに必要になる可能性があると言える。
学習させたい時系列の一周期のデータ数が分からない場合でも、 ネットワークの素子数がいくつかに関わらず、 学習に有効な遅れ時間の近くの遅れ時間では、 学習中の平均誤差になんらかの変化があることが 多かったため、それを手がかりとすることも 有効であると言える。
今後の課題としては、遅れ学習において教師信号が 今回のように単純なものでなかった場合、 例えば、雑音が含まれていたりした場合の学習について どのような変化が見られるかなどを さまざまなパターンで検証する必要がある。