人間の脳が持つ学習能力・記憶能力は現在の計算機でも 実現することのできない優れた処理能力を持っている。 ニューラルネットワークは人間の脳を疑似的に再現したもので、 これを用いた音声や文字認識などの研究が広く行われている。
ニューラルネットワークの起源は1943年に発表された McCullochとPittsの神経回路網理論に遡る。 彼らはニューロンの機能や動作についてモデル化を行った。 1949年にはHebbがニューロンの情報入力部分にあるシナプス結合において、 その結合強度がニューロンの興奮によって強まるという変化則を示し、 その結合強度の強弱こそが脳内における情報の分散的な記憶の本質であると提案した。
その二つの提案を受けて1958年、Rosenblattは これらの原理に基づいてパターンを学習識別するパーセプトロンを提案した。 パーセプトロンは一時期能力の限界を厳しく評価されたために研究が停滞したが、 1986年にはRumelhartによって誤差逆伝搬法(バックプロパゲーション) という多層パーセプトロンにおける学習アルゴリズムが発表され、 その後は再び盛んな研究が行われるようになった [1]。 その利用方法の一つに時系列の認識・想起がある。 時系列の想起を行う一つの手法として、 多層パーセプトロンである階層型のニューラルネットワークに対して データを入力すると次の時点でのデータを出力し、 それを次の入力にすることでさらに次の情報を出力させる、 これを繰り返すことで全時間の情報を想起するという手法がある。
本研究室では、内部記憶を持つニューラルネットワークの 新たな学習法として「遅れ学習法」を提案した。 従来のバックプロパゲーションによる学習と比較したところ 遅れ学習法は必ず有効であるとはいえないが、 効果的であることが示された。
これまでの研究により、内部記憶を持つニューラルネットワークに 遅れ学習法を用いて時系列を学習させる場合、 有効な遅れ時間は 教師信号の波形や他の学習パラメータに依存せず、 学習させる時系列の一周期分のデータ数によって 決めることが必ず有効であるとはいえないが効果的であることが示された。 また、ある教師信号に有効な遅れ時間は、教師信号の一周期分のデータ数以下で 表れることが多かったため、遅れ時間の選択の範囲は 教師信号の一周期分のデータ数以下で十分であることが分かった。
しかし、これまでの研究では素子数を固定して行っていたため 素子数と遅れ時間との関係についてはわかっていない。 そこで、本研究では時系列を遅れ学習法を用いて 内部記憶をもつニューラルネットワークに学習させる場合に、 中間素子数・内部記憶素子数・遅れ時間が学習結果にどのような変化をもたらすかを検証し、 遅れ学習の考察・検討を行う。
学習させる信号に簡単な周期性を持つ時系列を用いて、 様々な素子数及び遅れ時間で学習を試みることにより これらのパラメータの違いが学習に与える影響を検証する。
また、素子数の違いによる学習に要する時間の違いを 測定し、これらの結果を踏まえ、遅れ時間の決定法についての 考察・検討を行う。