逐次学習法

逐次学習法とは、浅川らによって提案されたカオスニューラルネットワークに対する学習方法である。 個々のニューロンが自身の内部状態により結合荷重を変化させるかどうかの判定をし、必要であればヘッブの学習則に基づいて追加学習を行なう[8]。 へッブの学習則とは、出力結果をフィードバックし、ニューロンが発火したときには、その入力の重みを大きくし結合加重を増やす動作を行うことである[1]。

逐次学習法では、式(3.4)で示したカオスニューロン内部状態を表す三つの項、 すなわち外部入力の項 $\xi_i$ 、相互結合の項 $\eta_i$ 、不応性の項 $\zeta_i$ において、 ある条件が満たされた時学習を行なう。 その条件式は式(4.1)で表される。

$$(\textmc{外部入力の項} \xi_i ) \textmc{×} ( \textmc{相互結合の項} \eta_i + \textmc{不応性の項} \zeta_i ) < 0$$ (4.1)

この条件式は、相互結合の項と不応性の項の和と外部入力の項との積が負の時に、 積が正になるまでヘッブの学習則に基づいて結合荷重を変化することで学習することを表している。 これは、不応性の影響を除けば、外部入力の項と相互結合の項の符号が同じになることで、入力パターンの想起、つまり学習が成功しやすくなるためである。それらを繰り返す事で学習をより強めていく。

結合加重を変化させるにあたり、$i$ 番目のニューロンの $j$ 番目のニューロンからの 出力に掛かる結合荷重 $w_{ij}$ の変化は式(4.2) で表される。

$$w_{ij}^{new}= \left\{ \begin{array}{@{\,}ll} w_{ij}^{old} + \Delt... ...old} - \Delta w &\mbox{[$ \xi_i(t) \times x_j(t-1) \le 0$]} \end{array} \right.$$ (4.2)

ここで変化前の結合加重は $w_{ij}^{old}$ であり、変化後の結合加重は $w_{ij}^{new}$ である。$\Delta w$ は結合加重の変化量である。 $\xi_{i}(t)\times{x_{j}}(t-1)>0$ であるとき、$i$ 番目のニューロンに出力させたい値と$j$ 番目のニューロンの出力が同じ向きであるため、結合荷重を $\mathit{\Delta} w$ 加算して、$j$ 番目のニューロンが$i$ 番目のニューロンの出力を、自分の出力と一致させようとする働きを強める(協調作用)。 $\xi_{i}(t)\times{x_{j}}(t-1)\leq0$ であるとき、$i$ 番目のニューロンに出力させたい値と$j$ 番目のニューロンの出力が逆の向きであるため、結合荷重値を $\mathit{\Delta} w$ 減算して、$j$ 番目のニューロンが$i$ 番目のニューロンの出力を、自分と異なる方向にしようとする働きを強める(競合作用)。