結論

本研究では時系列を遅れ学習法を用いて 内部記憶をもつニューラルネットワークに学習させる場合に、 遅れ時間の違いが学習結果にどのような影響を 与えるかを検証した。

まず、ネットワークの素子数を少なくし、 遅れ時間以外の学習パラメータを固定した状態で、 内部記憶を持つニューラルネットワークに 短い周期を繰り返すような簡単な時系列を さまざまな遅れ時間によって学習させた。

その結果、学習が成功する可能性の高い、 学習させる時系列に有効な遅れ時間は データ数によって決まり、 その教師信号の波形には依存しない 可能性が高いことが確認された。

また、結合荷重の初期値、学習係数$\eta$、安定化係数$\alpha$を 変化させた場合に、学習に有効な遅れ時間に 変化が現れるかを検証した。

その結果、遅れ時間の決定に各種パラメータの影響は それほど受けないことが確認された。

以上のことから、 内部記憶を持つニューラルネットワークに 遅れ学習法を用いて時系列を学習させる場合、 有効な遅れ時間は 教師信号の波形や他の学習パラメータに依存せず、 学習させる時系列の一周期分のデータ数によって 決めることが必ず有効であるとはいえないが 効果的であることが示された。

また、実験を通して、 学習が成功しやすい遅れ時間は 教師信号の一周期のデータ数と 同じ周期で現れる可能性が高いことが確認された。

学習が成功したある遅れ時間を用いた場合と その一周期後の遅れ時間を用いた場合とを比べたとき、 学習が完了するまでの学習回数に大きな違いはなく、 多くの計算量を必要とする一周期後の遅れ時間を 用いた方が効率が悪いことが分かった。 また、ある教師信号に有効な遅れ時間は 教師信号の一周期分のデータ数以下で 表れることが多かったため、 遅れ時間の選択の範囲は 教師信号の一周期分のデータ数以下で 十分であることが分かった。

学習させたい時系列の一周期のデータ数が分からない場合でも、 学習に有効な遅れ時間の近くの遅れ時間では、 学習中の平均誤差になんらかの変化があることが 多かったため、それを手がかりとすることも 効果的であると言える。

今回の実験では ネットワークの素子数は固定して実験を行った。 そのため素子数と遅れ時間との関係は分かっていない。 今後の課題として、ネットワークの素子数を変えた場合についての 遅れ時間による学習結果の変化があげられる。 また、そのほかにも教師信号の周期が 今回用いた信号よりも大きな時系列の場合や、 各周期毎に違った雑音が含まれた場合など、 さまざまなパターンで検証する必要がある。