逐次学習法の説明の前に、必要のため連想記憶について簡単に説明する。 （なお、ここの記述は参考文献 [8]に依拠している。）
ニューラルネットワークにおける連想記憶とは、ある入力パターンに対応する 出力パターンをネットワークが記憶することである。 連想記憶には自己相関連想記憶と相互相関連想記憶とがある。 自己相関連想記憶は、入力パターンと出力パターンとが同一となる連想記憶であり、 例えばいくつかの文字を記憶させておき、手書きの文字が入力されたときに それがどの文字に最も近いかを出力させることに相当する。 一方、相互相関連想記憶は、入力パターンと出力パターンが異なる。 例えば「りんご」から「赤い」を連想するように入出力の関係を記憶させておき、 入力に対応して出力を出すことに相当する。
相互結合型ネットワークの自己相関連想記憶のための学習法として、 代表的なものに相関学習法と呼ばれるものがある。
また、以下で説明する逐次学習法もまた、自己相関連想記憶のための学習法である。