逐次学習法では、個々のニューロンが自分の内部状態から判断して, 学習条件を満たす時のみ結合荷重を変化させる。[5]
逐次学習法におけるニューロンの学習条件は次の通りである。
逐次学習法において、ニューロンはこの学習条件を基に、入力されたパターンが 未知であるか既知であるかを判断する。 ネットワークに既知パターンを入力したとき、相互結合の符号は外部入力の項と 同じになる。 このとき、相互結合によるネットワーク全体が極小点に向かおうとする力と、 外部入力による入力パターンを出力しようとする力が同じ向きに働き、素早く パターンが想起される。 未知パターンが入力された時は、相互結合の項の符号は全てのニューロンで 外部入力と一致するわけではなく、学習条件が成立する。 結合荷重値の変化は、相互結合の項のみに影響を及ぼし、相互結合の力の向きを正しく する。 学習条件に不応性の項が含まれるのは、相互結合の項の大きさが不応性項より 小さい時も学習させ、記憶を深めるためである。
学習条件が成立した時の結合荷重値の変化はヘッブの学習則に基づき、 次のように行なう。
学習条件が成立しているとき、入力されているパターンは未知であることから、 ニューロンの出力を外部入力と一致させる必要がある。 そこで、相互結合の向きを正しく、不応性項より大きくするように結合荷重値を 変化させ、外部入力と出力の値を合わせる。
であるとき、i番目のニューロンに出力させたい
値とj番目のニューロンの出力が同じ向きであるため、結合荷重値を
加算して、j番目のニューロンがi番目のニューロンの出力を、
自分の出力と一致させようとする働きを強める(協調作用)。
であるとき、i番目のニューロンに
出力させたい値とj番目のニューロンの出力が逆の向きであるため、結合荷重値を
減算して、j番目のニューロンがi番目のニューロンの出力を、
自分と異なる方向にしようとする働きを強める(競合作用)。