逐次学習法とは、個々のニューロンが自身の内部状態により結合荷重を変化させるかどうかの判定をし、
追加学習を行なう学習法である。
逐次学習は式(3.5)
で示したカオスニューロン内部状態を表す三つの項、
すなわち外部入力の項 、相互結合の項
、不応性の項
において、ある条件が満たされた時学習を行なう。
その条件式は式(4.1)で表される。
この条件式は、相互結合の項と不応正の項の和と外部入力の項との積が負の時に、 積が正になるまで結合荷重を変化することで学習することを表している。
学習するということは、一度入力されたパターンが次にまた入力された時すばやく 想起できるように結合荷重を変化させることである。 結合荷重の変化は相互結合の項のみに影響を与える。 相互結合の項が外部入力の項の符合と同じになることにより、 相互結合の項によってネットワークのエネルギーが極小値に向かうおうとする力と、 外部入力によって入力されたパターンに近付こうとする力が同じ方向に働き、 次に同じパターンが入力された時すばやく想起できるようになる。 また、式 (4.1) が成立し、ある程度時間が過ぎると 外部入力の項と反対の符合を持つ不応性の項の値が大きくなっていく。 それにより、不応性の項の絶対値が、外部入力の項の絶対値を越えると、 再び条件式が成り立ち、外部入力の項の絶対値が不応性の項の絶対値を越えるように再び学習が始まる。 これを繰り返すことにより学習をより強めていく。
式 (4.1) が成り立つとヘッブの原理に沿って結合荷重を変化させる。
i 番目のニューロンの j 番目のニューロンからの
出力に掛かる結合荷重 の変化は式(4.2) で表される。
i 番目のニューロンの外部入力の項とj 番目のニューロンの出力の積が、
正ならば結合荷重値を する。また負なら
する。
結合荷重が正であれば
することで結合を強め、
で結合を弱める。
逆に結合荷重が負であれば
することで結合を弱め、
で結合を強める。
これを繰り返し、ネットワークの結合荷重を少しずつ、
ゆっくりと変化させることで、入力パターンを少しずつ学習していく。