逐次学習法は相互結合型ニューラルネットの学習法の一種で、 個々のニューロンが自分自身の内部状態によって 結合荷重を変化させるかどうかを判断し、学習を進めていくというものである。 逐次学習法では、式(3.6)に示すカオスニューロンの内部状態 を表す三つの値の間で、ある条件が満たされるニューロンのみ 結合荷重を変化させて学習を行なう。
その条件は、相互結合の項が外部入力の項と異符号であるということで、 この二つの項が同符号になるまで結合荷重を変化させる。 この条件を数式で表すと式(4.3)のようになる。
式(4.3)が成立したニューロンは Hebbの学習則を応用した式(4.4)の形式で 結合荷重を変化させる。
j 番目のニューロンから i 番目のニューロンへの結合荷重を
とする。j 番目のニューロンの出力と
i 番目のニューロンの出力との積が
正ならば結合荷重を 
し、負ならば 
する。
つまり二つのニューロンが互いに興奮または互いに静止状態に
あれば結合を強め合い、
一方が興奮、もう一方が静止の状態にあれば
結合を弱めることになる。
これは2.3節で述べたニューロンの協調、競合作用を
利用した学習法である。
これを繰り返すことによってネットワークは少しずつ学習を進める。
この学習法では、ネットワーク全体ではなく、内部状態を変化させる 必要のあるニューロンのみが結合荷重を変更する 局所的な学習を行なうため、これを局所的逐次学習法と名付ける。 [5]
結合荷重の変化が影響を与えるのは相互結合の項のみであるので、 学習を進めることによって値が変化するのは相互結合の項のみである。 相互結合の項と外部入力の項とが同符号になるということは、 外部からの入力によってネットワークの状態が変位しようとする方向と、 相互結合によって作られているネットワークのエネルギー関数の 極小点が一致することになるため、次にその入力が与えられた時に すばやくエネルギー関数の極小点に辿り着くことができるようになる。
外部入力項と相互結合項が同符号になると ニューロンはそれ以上結合荷重を変化させなくなるが、 時間が経過して不応性の項が大きくなると、再び式(4.3)が成立して、 学習を再開する。 不応性の項には同じものを続けて出力させにくくする働きをもっていて、 この時点では、外部入力項とも相互結合項とも 異符号である。そのため、相互結合項は絶対値で不応性の項よりも 大きくなるように結合荷重を変化させる。
この様に、相互結合項の絶対値を不応性の項に比べて大きくなるようにすると、 エネルギー関数の谷が深くなり、1つの1つのパターンをより強固に学習できる。
局所的逐次学習法は、外部入力を初期入力としてのみではなく 継続的にネットワークに与えるため、入力パターンにノイズが入った場合でも 長時間学習させることによってその影響を減らし、 正しいパターンを学習させることができる。 また、この学習法においては 学習と想起が分離されておらず、既知のパターン が入力された場合はそのパターンを出力し、未知のパターンが入力されると そのパターンを学習するという、より実際の脳の動きに近いものになっている。
