本研究では内部記憶を持つニューラルネットワークに短い周期を繰り返し その後別の周期を持つような複雑な時系列の学習と想起を行なった。 遅れ学習法を用いて学習を行なった結果，同じ素子数のニューラルネットワークでも， 初期の結合荷重の値によって学習が収束したりしなかったりした。 これはローカルミニマムの問題であると考えられる。 学習成功後のネットワークを用いて最初の入力に教師信号を与え想起を行なった結果， 想起された時系列は教師信号と全く同じになり，正しく学習・想起が行なわれていた。 このとき結合荷重の変化も，外部からの入力もないため放っておくと学習させた 時系列を繰り返し想起し続けた。そこで時系列の一回分の長さを一周期と考えた。
次に内部記憶の役割を検討するため，入力信号と内部記憶層の値に変化を与え， 想起させる実験を行なった。 その結果，何回かの時間ステップだけ入出力を繰り返してから， 位相のずれを伴い想起が完了することがわかった。 正しい時系列が想起されてからは，入力に教師信号を与えたときと同様に， 学習された時系列を繰り返し想起し続けた。 また内部記憶をずらした場合と入力をずらした場合を比べた結果， 想起は内部記憶に引っ張られやすいといえた。 内部記憶層は中間層からの結合荷重を持つことによって，その出力値は， 時間ステップごとに変化に富むものとなり，教師信号としてそれだけでは 学習，想起が困難な時系列の足りない入力データを補う役割を持つ。 入力や内部記憶の値が崩れた状態で想起をおこなっても，ネットワークの結合荷重 によって内部記憶が形成され，それにより想起の信号が求められるのだと思われる。 想起実験では，最終的には必ず元の教師信号を再現できていて， 間違った時系列が想起されるというような結果は見当たらなかった。
次に内部状態の変遷を二次元画像に表した。 その結果，内部状態の変遷は教師信号の変遷との関連が強く内部記憶も含めて 時系列のデータであるかのようにふるまっているということがいえる。 この理由として考えられるのは，内部記憶の出力値は結合荷重から 決められた値であり，結合荷重はバックプロパゲーションと遅れ学習法により， 十分に教師信号から影響を受けて形成されているからだと考えられる。 内部記憶の時間的な変化は教師信号の特徴を取り込んでつくりだされ 複雑な時系列の想起の判断を助けていることがわかった。
内部記憶を持つニューラルネットで，入力に変化を与えて想起させると， その過程の中で内部状態は常に変化していき， やがて入力と内部記憶層の値に想起成功時の入力と内部状態が現れる。 するとそこからは，周期的に教師信号を想起していくことになる。 この状態を安定状態と呼び、内部記憶の値が安定状態に入ると想起は成功する。 安定状態に入るまでの時間を想起時間呼ぶことにし，入力，内部状態の変化に 対する想起時間の測定を行なった。 その結果安定状態とまったくちがった状態にあっても，想起の入出力を ちょうど一周期分繰り返したとき，内部状態に戻りやすいことがわかった。 またそれぞれのネットワークによって想起時間のとりやすい値を持っているといえた。 そして内部状態に加える変化が大きい程，想起時間は多くかかるといえた。 また各時間ステップによって，内部状態が想起の判断に及ぼす影響の大きさが 違っていることがわかった。つまり想起の判断を入力に頼るか内部状態に頼るかは， 時間ステップによって分かれていると考えられる。
今回の実験は学習後のネットワークを3種類用いて行なった。 この3つのネットワークにおいては想起の実験結果の位相，想起時間，などの入力変化に 対する特性，またその安定状態はばらばらなものであった。 この原因は学習による結合荷重の形成過程が，各ネットワークによって異なるため， 学習終了後の結合荷重や閾値がそれぞれ違う値を持つからであろうと考えられる。 つまり想起に関する出力，その特性，そして内部状態はすべて， ネットワークの結合荷重によって決められるものであるということがいえる。 故に結合荷重の状態から解析する必要があると考えられるが，ネットワークの結合は 入力・中間と中間・出力，各層の素子数の積の数だけ存在し，非常に複雑な問題と なるため困難であると思われる。
なので今後の課題として考えられることは，まず第一に次のようなことがある。 今回は学習する時系列データが一つだけであったため，他の時系列でも 学習想起を行なってみる。それにより結果として同じことがいえるかどうか調べる。 また学習において，学習が収束したネットワークと収束しなかったネットワークで， 結合荷重の形成過程の違いを調べることによって，ローカルミニマムの原因， さらには結合荷重の役割的なところまでわかるかもしれないのではないかと思われる。
謝辞
最後に，本研究を進めるにあたり一年間通して多大な御指導を頂きました 出口利憲先生に深く感謝致します。同研究室において多くの助言をいただいた 専攻科の酒井哲平氏，今村豊治氏，そして専攻科卒業生の岩佐要氏， また同研究室にてともに学んだ石原直幸氏，田口裕章氏，豊吉隆一郎氏，古田彰吾氏に 深く感謝致します。