本研究では内部記憶を持つニューラルネットワークに 短い周期を繰り返し最後に別の周期を持つような複雑な時系列を学習させた.
初めに従来のバックプロパゲーションによる学習を行なってみた結果， 誤差が間違った量子化しない程度にまで小さくならず， 学習が成功したとはいえなかった. これは学習時に教師信号が内部記憶層に与える影響が 少ないからであると思われる. そこで補助入力層を用いて教師信号を増やして 学習を行なった結果学習が成功した. しかし内部記憶層の持つ教師信号が少なくても 時系列の学習ができるという利点が失われる. この問題を解決するためにネットワークを時間的に展開し， 誤差信号を前の時間における各層に伝搬することによって 大きくするという遅れ学習法を新しく考えた. この遅れ学習法を用いて学習させた結果， 内部記憶層に与えられる誤差信号の値は大きくなり， 素子数によっては，他の機能を持つ層を使用しなくても学習が成功した. よって今回提案した遅れ学習法は内部記憶を持つニューラルネットワークに対し， 必ず有効であるとはいえないが，効果的であるといえる.
学習が成功した場合の結合荷重を用いて想起実験を行なった. これにより教師信号を完全に再現することができた. また入力する信号に誤差を与えても， 出力した時系列に遅れが生じるが 値と時間的変化は正しい信号が想起された. これは内部記憶層の出力値が教師信号に基づいたものであり， その情報から正しい値が取り出せているからである.
最後に学習が成功した場合の内部記憶の状態について調べた. 相関関数によって調べた結果， その値自体は教師信号とは異なっているが 時間的変動は似通ったものになる. また結合荷重は0や1といった判断が容易なものに大きな値が割り当てられ， ループによって入力値を前とは異なる値にしたり 必要のない情報を削除するなどで 教師信号の判断しやすくするように形成される.
今後の課題としては， 他の時系列に適応した場合にも内部記憶素子の役割， その結合荷重の形成は同じであるか調べることがあげられる.
謝辞
最後に，本研究を進めるにあたり三年間通して多大な御指導を頂きました 出口利憲先生に深く感謝致します. また専攻科でともに研究活動を行なった高木潤氏， 研究室にてともに学んだ酒井哲平氏，今村豊治氏，辻啓介氏に感謝します.