人間の脳が持つ学習能力・記憶能力は現在の計算機でも 実現することのできない優れた処理能力を持っている。 ニューラルネットワークは人間の脳を疑似的に再現したもので、 これを用いた音声や文字認識などの研究が広く行なわれている。
ニューラルネットワークの起源は1943年に発表された McCullochとPittsの神経回路網理論に遡る。 彼らはニューロンの機能や動作についてモデル化を行なった。 1949年にはHebbがニューロンの情報入力部分にあるシナプス結合において、 その結合強度がニューロンの興奮によって強まるという変化則を示し、 その結合強度の強弱こそが脳内における情報の分散的な記憶の本質であると 提案した。
その二つの提案を受けて1958年、Rosenblattは これらの原理に基づいてパターンを学習識別するパーセプトロンを提案した。 パーセプトロンは一時期能力の限界を厳しく評価されたために研究が停滞したが、 1986年にはRumelhartによって誤差逆伝搬法(バックプロパゲーション) という多層パーセプトロンにおける学習アルゴリズムが発表され、 その後は再び盛んな研究が行なわれるようになった [1]。 その利用方法の一つに時系列の認識・想起がある。 時系列の想起を行なう一つの手法として、 多層パーセプトロンである階層型のニューラルネットワークに対して データを入力すると次の時点でのデータを出力し、 それを次の入力にすることでさらに次の情報を出力させる、 これを繰り返すことで全時間の情報を想起するという手法がある。
本研究室ではリカレントネットワークの一種である 内部記憶を持つニューラルネットワークを提案し、 時系列の一種である気温の予測を行なわせた。その結果、温度変化のような 時系列を学習させる手段として適しているという結論が得られた。 さらに内部記憶を持つニューラルネットワークの 新たな学習法として「遅れ学習法」を提案した。 従来のバックプロパゲーションによる学習と比較したところ 「遅れ学習法」は必ず有効であるとはいえないが、 効果的であることが示された。
しかし、これまでの研究では 学習に使用される各パラメータの決定を 経験に頼るものであった。 そこで、本研究では 時系列を「遅れ学習法」を用いて 内部記憶をもつニューラルネットワークに学習させる場合に、 「遅れ学習法」のパラメータの一つである遅れ時間の違いが 学習結果にどのような変化をもたらすかを検証し、 遅れ時間の考察・検討を行なう。
学習に用いる内部記憶を持つニューラルネットワークの素子数を少ないものとし、 学習させる信号を簡単に表せる周期性をもつ時系列として、 さまざまな遅れ時間で学習を試みることにより、 遅れ時間が学習結果に与える影響を検証した。 その結果を踏まえ、 遅れ時間の決定法について考察・検討を 行なった。