人間の脳が持つ学習能力・記憶能力は現在の計算機でも 実現することのできない優れた処理能力を持っている。 ニューラルネットワークは人間の脳を疑似的に再現したもので、 これを用いた音声や文字認識などの研究が広く行なわれている。
ニューラルネットワークは1943年に発表された McCullochとPittsの神経回路網理論が起源である。 彼らはニューロンの機能や動作についてモデル化を行なった。 1949年にはHebbがニューロンの情報入力部分にあるシナプス結合において、 その結合強度がニューロンの興奮によって強まるという変化則を示し、 その結合強度の強弱こそが脳内における情報の分散的な記憶の本質であると 提案した。
その二つの提案を受けて1958年、Rosenblattは これらの原理に基づいてパターンを学習識別するパーセプトロンを提案した。 パーセプトロンは一時期能力の限界を厳しく評価されたために研究が停滞したが、 1986年にはRumelhartによって誤差逆伝搬法(バックプロパゲーション) という多層パーセプトロンにおける学習アルゴリズムが発表され、 その後は再び盛んな研究が行なわれるようになった [1]。 その利用方法の一つに時系列の認識・想起がある。 時系列の想起を行なう一つの手法として、 多層パーセプトロンである階層型のニューラルネットワークに対して データを入力すると次の時点でのデータを出力し、 それを次の入力にすることでさらに次の情報を出力させる、 これを繰り返すことで全時間の情報を想起するという手法がある。
本研究室ではリカレントネットワークの一種である 内部記憶を持つニューラルネットワークを提案し、 時系列の一種である気温の予測を行なわせた。 その結果、温度変化のような 時系列を学習させる手段として適しているという結論が得られた。 さらに内部記憶を持つニューラルネットワークの 新たな学習法として「遅れ学習法」を提案した。 従来のバックプロパゲーションによる学習と比較したところ 「遅れ学習法」は必ず有効であるとはいえないが、 効果的であることが示された。 また、昨年の研究結果から 規模が小さなニューラルネットワークにおいて 短い周期を繰り返すような簡単な時系列では、 学習が成功する可能性の高い、 学習させる時系列に有効な遅れ時間は 一周期のサンプリングデータ数によって決まり、 その教師信号の波形には依存しない 可能性が高いことが確認された [8]。
しかし、これまでの気温予測に対する研究では これらのパラメータの決定は 経験に頼るものであり、 適当な値が何であるかが考慮されていなかった。
そこで、本研究では 内部記憶をもつニューラルネットワークに 「遅れ学習法」を用いて、 一周期ごとに変化する複雑な時系列として気温の変動を学習させ、 「遅れ学習法」のパラメータの一つである遅れ時間の違いや、 一周期のサンプリングデータ数、ネットワークの規模が 学習後の気温予測にどのような変化をもたらすかを検証し、 その予測結果から複雑な時系列の学習に有効な 各種パラメータの決定法について考察・検討を行なう。