逐次学習

　逐次学習は本研究室で浅川らが提案した学習法である[10]。 その基本となっているのがあるシナプスを介して接続している神経細胞の同時発火によって、 シナプス結合荷重は変化するという仮説を基にしたヘッブの学習則である。 逐次学習はこれを応用した学習法である。 逐次学習では学習の必要性の判断に内部状態を示す３つの項を用いる。 すなわち外部入力の項$\xi_i$、相互結合の項$\eta_i$、不応性の項$\zeta_i$である。 以下の条件式（4.1）が成立すれば結合荷重を変化、つまり学習を行う。

$$(\xi_i)\times(\eta_i + \zeta_i) < 0$$ (4.1)

学習では、例えばニューロン$i$の外部入力の項$\xi_i$と、 $i$に結合しているニューロン$j$の出力$x_j(t-1)$が同符号であれば結合荷重を増加させる。 逆に異符号であれば減少させる。 但し、結合荷重の増加は結合荷重の符号によって意味合いが異なる。 現在の結合荷重が正（興奮性）であれば結合が強まり、負（抑制性）であれば結合を弱めることになる。 また、相互結合の項が外部入力の項と同じ符合になってからある程度時間が過ぎると、 外部入力の項と反対の符合の不応性の項（この時点では相互結合の項とも反対の符合）の影響が大きくなる。 その結果、相互結合の項よりも不応性の項の値が絶対値で大きくなると再び、式4.1が成立して、 相互結合の項は不応性の項より絶対値で大きくなるように変化する。 これは相互結合の項の絶対値の大きさをある一定の値以上まで大きくすることで、 全てのパターンを均等に学習することができる。

この学習における結合荷重の変化量を$\Delta w$とすれば、 逐次学習法の結合荷重の変化は以下の式（4.2）により表現される。 ここで 変化前のニューロン$j$からニューロン$i$への結合荷重を ${w_{ij}}^{old}$、 変化後の結合荷重を ${w_{ij}}^{new}$と表す。

$$w_{ij}^{new}= \left\{ \begin{array}{@{ }ll} w_{ij}^{old} ... ...box{[$ \xi_i(t) \times x_j(t-1) \le 0$]} \end{array} \right.$$ (4.2)

これを繰り返し、ネットワークの結合荷重を少しずつ増減させることで、入力パターンを少しずつ学習していく。