next up previous contents
Next: 実験 Up: 学習 Previous: ホップフィールドネットにおける学習

逐次学習法

逐次学習法とは個々のニューロンが自分自身の内部状態により結合荷重を変化させるかどうかの判定を行ない、追加学習を行なう学習法である。 逐次学習は式(3.5) で示したカオスニューロンの内部状態を表す三つの項、すなわち外部入力の項 tex2html_wrap_inline1138 、相互結合の項 tex2html_wrap_inline1140 、不応性の項 tex2html_wrap_inline1142 において、ある条件が満たされる時学習を行なう。 その条件式は式 (4.2) で表される。

  equation211

この条件式は、相互結合の項と不応正の項の和と外部入力の項との積が負の時に、積が正になるまで結合荷重を変化することで学習することを表している。

学習するということは、一度入力されたパターンが次にまた入力された時すばやく想起できるように結合荷重を変化させることである。 結合荷重の変化は相互結合の項のみに影響を与える。 相互結合の項が外部入力の項の符合と同じになることにより、相互結合の項によってネットワークのエネルギーが極小値に向かうおうとする力と、外部入力によって入力されたパターンに近付こうとする力が同じ方向に働き、次に同じパターンが入力された時すばやく想起できるようになる。 また、式 (4.2) が成立し、ある程度時間が過ぎると外部入力の項と反対の符合を持つ不応性の項の値が大きくなっていく。 それにより、不応性の項の絶対値が、外部入力の項の絶対値を越えるとまた条件式が成り立ち,外部入力の項の絶対値が不応性の項の絶対値を越えるように再び学習が始まる。 これを繰り返すことにより学習をより強めていく。

式 (4.2) が成り立つとヘッブの原理に沿って結合荷重を変化させる。 i 番目のニューロンの j 番目のニューロンからの 出力に掛かる結合荷重 tex2html_wrap_inline1124 の変化は式(4.3) で表される。

  equation218

i 番目のニューロンの外部入力の項とj 番目のニューロンの出力の積が、正ならば結合荷重値を tex2html_wrap_inline1186 する。また負なら tex2html_wrap_inline1188 する。 結合荷重が正であれば tex2html_wrap_inline1186 することで結合を強め、 tex2html_wrap_inline1188 で結合を弱める。 逆に結合荷重が負であれば tex2html_wrap_inline1186 することで結合を弱め、 tex2html_wrap_inline1188 で結合を強める。 これを繰り返し、ネットワークの結合荷重を少しずつ変化させることで、入力パターンを少しずつ学習していく。



Toshinori DEGUCHI
2003年 4月23日 水曜日 17時51分42秒 JST