内部記憶を持つ形のニューラルネットワークを学習させるために この学習手法を用いる。 この場合も先に述べた通常のニューラルネットワークにおける学習手法と同じ設定、動作を行わせるが、 違う点として、学習途中において1周期終了した後でも内部記憶部分は初期化せずに、 次の入力として使用する点がある。