以上の実験を踏まえると，想起は内部記憶に引っ張られているといえる。 内部記憶層は中間層からの結合荷重を持つことによって，その出力値は， 時間ステップごとに変化に富むものとなる。 そして教師信号としてそれだけでは学習，想起が困難な時系列の 足りない入力データを補う役割をもつのであろうことが予測される。
このことから内部記憶も含めて時系列のデータであると考えられるのではないか と思われる。 ではこれはどんな時系列になっているのか，それを調べるため 内部記憶の時間的変遷を二次元画像にして，視覚的に捉えてみた。 学習後のネットワークで想起を行い，その内部状態の変遷を二次元画像に 表したものを図 6.5 に示す。 白黒の濃淡で表され一つの画素が内部記憶層素子の出力値を表す。 出力値が大きければ黒色，小さければ白色となっている。一番左側の列が 最初の時間ステップでの値となっていて，その次の列が次の時間ステップを表す。 なので一つの行に一つの内部記憶素子の時間に沿った出力が表されている。 ただし，一番上の一行目と二行目は入力層の出力値である。 つまり一，二行目は教師信号の時系列データを表してもいるのだが， 内部状態との比較しやすくするのため，このグラフを上部に連ねて示す。
この図より，行に注目して考えてみると全体的に黒色の強い行，白色の強い行， 白黒が入り乱れている行に分けられる。 つまり全体的に高い出力を出しやすい素子，低い出力を出しやすい素子， 高い値と低い値が入れ替わりで出やすい素子に，分かれていることがいえる。 また全体的に高い出力や，低い出力を出しやすい素子でも，教師信号の動きに変化が ある（例えば長さを表す値はある時間一定の状態から急に変化する） 時には，素子の値にも変化がみられる。 つまり今までの出力から変化を持たせないといけないため， その時の内部状態に変化を持たせているのだということが考えられる。 また前半の教師信号が同じフレーズを繰り返す部分での内部状態と， そうでない後半では内部状態にも違いがみられる。 濃淡の度合に注目すると，一，二行目はほとんどグレーで，濃淡の変化は小さい。 それに比べ，その他の行ははっきりと白から黒，黒から白といった変化をする箇所が， 多く見られる。つまり内部状態の時間的変化が教師信号に比べて非常に大きいという ことを示している。このような内部状態により，時系列の想起に役立っていくのだと 考えられる。 このように内部記憶の時間的な変化は，教師信号の特徴を反映してつくりだされて いる。そのため想起の助けになるのだと考えられる。 また図より，ほとんど白色で変化していない行が見受けらる。このことより常に0に 近い出力しかしていない内部記憶素子が存在してしまっているということがわかる。
