逐次学習法

  2.1節にシナプス可塑性（シナプス結合荷重が変化し得る性質）が「脳の記憶や学習という機能の実現の一端を負っていると考えられている」と書いた。シナプス可塑性による「脳の記憶や学習という機能の実現」方法として、心理学者のヘッブは1949年に自著``Organization of behavior''の中で「ニューロンAからニューロンBへのシナプス荷重は、ニューロンAとニューロンBが同時に発火するときに、増大する」[1]という結合荷重の変化則（ヘッブの学習仮説）を提案した。

逐次学習法はへッブの学習仮説を応用した学習法であり、カオスニューラルネットワークの学習に有用である。逐次学習法では、ネットワーク中のあるニューロンiの外部入力項 と、iに対して結合しているニューロンjの出力 が同符号であれば結合荷重を増加させ、異符号であれば減少させる。結合荷重の増加は結合荷重の符号が正（興奮性）であれば結合の強化を、負（抑制性）であれば弱化を意味し、結合荷重の減少は結合荷重の符号が正（興奮性）のとき結合の弱化を、負（抑制性）のとき強化を意味する。

一度に だけ結合荷重を増加・減少させるとし、変化前のニューロンjからニューロンiへの結合荷重を 、変化後の結合荷重を と表すと、逐次学習法の結合荷重の変化則は以下の式により表現される。

 

ただし、この変化則は常に適用されるわけではなく、以下の条件式が成立するときのみ適用され、結合荷重を変化させる。

 

ネットワークに対する外部入力の列（パターン）が既知である（既に学習している）とき、全てのニューロンにおいて外部入力項 と相互結合項 とは同符号となり条件式(4.2)は成立しない。ところが、パターンが未知である（未だ学習していない）とき、いくつかのニューロンにおいて外部入力項 と相互結合項 が異符号となりそのニューロンの結合荷重は式(4.1)に従い変化する。

また、条件式(4.2)において相互結合項 と不応性項 との和を用いているのは、相互結合項 の絶対値が不応性項 の絶対値よりも小さい場合にも学習を行なうことでパターンの記憶をより強めるためである。