この逐次学習法というのは相互結合型ニューラルネットの学習法である。 各々のニューロンは自分自身の内部状態により結合荷重を変化させて学習する。 学習というのは未知のパターンを入力された場合に そのパターンを想起できるように結合荷重を 変化させるということである[7]。 ここで結合荷重を変化させる条件を式(3.1)に示す。
この式が成立した場合、ニューロンは式(3.2)の形式で 結合荷重を変化させる。
式(3.1)の 
は外部入力の項で、
は相互結合の項で、 
は不応性の項である。
この三つの項で、相互結合の項が、外部入力の項と異符合であるとき、
二つの項が同符合になるまで結合荷重を変化させる。
二つの項、相互結合の項と外部入力の項が同じ符合になるように
結合荷重を変化させるということは、
2.3節で述べたエネルギー関数の極小点に向かおうとする力と、
外部入力による入力されたパターンに近付こうとする力が同じ
向きに働くということであり、これにより次回のパターンの想起が
早くできるようになる。
結合荷重の変化は相互結合の項にのみ影響を与える。
次に、式(3.2)により結合荷重を変化させる方法を説明する。
まず、i番目のニューロンの外部入力項とj番目のニューロンからの
出力の積を算出し、その値が正の値を示す場合、 
し、
逆に負の値を示す場合には 
する。
これは、Hebbの学習仮説の応用を用いたものである。
つまり、ニューロンが互いに興奮、または静止状態にあるときには
ニューロン間の結合を強め、互いの状態が違う場合には、
ニューロン間の結合を弱めているのである。
これを繰り返していくことによりネットワークは学習を進めていく。
相互結合の項と外部入力の項が同じ符合になるように結合荷重を 変化させていくことは書いたが、両者が同符合になってから ある程度の時間がたった場合、外部入力の項と反対の符合の不応性の項 の影響が大きくなり、相互結合の項よりも不応性の項の値が絶対値で大きくなる。 ここで再び式(3.1)が成立し、相互結合の項は 不応性の項より絶対値が大きくなる。 これにより、一度学習を行なうための条件式が成り立たなくなり 学習を終らせてしまったニューロンに再び学習をさせることができるのである。 こうして学習を続けさせることで、ニューロンはより強く学習し、 より忘れにくくなっていくのである。
