next up previous contents
Next: 実験 Up: 学習 Previous: ニューラルネットにおける学習

逐次学習法

逐次学習法とは、個々のニューロンが自身の内部状態により結合荷重を変化させるかどうかの判定をし、 追加学習を行なう学習法である。 逐次学習は式(3.5) で示したカオスニューロン内部状態を表す三つの項、 すなわち外部入力の項 tex2html_wrap_inline1210 、相互結合の項 tex2html_wrap_inline1212 、不応性の項 tex2html_wrap_inline1214 において、ある条件が満たされた時学習を行なう。 その条件式は式(4.1)で表される。

  equation218

この条件式は、相互結合の項と不応正の項の和と外部入力の項との積が負の時に、 積が正になるまで結合荷重を変化することで学習することを表している。

学習するということは、一度入力されたパターンが次にまた入力された時すばやく 想起できるように結合荷重を変化させることである。 結合荷重の変化は相互結合の項のみに影響を与える。 相互結合の項が外部入力の項の符合と同じになることにより、 相互結合の項によってネットワークのエネルギーが極小値に向かうおうとする力と、 外部入力によって入力されたパターンに近付こうとする力が同じ方向に働き、 次に同じパターンが入力された時すばやく想起できるようになる。 また、式 (4.1) が成立し、ある程度時間が過ぎると 外部入力の項と反対の符合を持つ不応性の項の値が大きくなっていく。 それにより、不応性の項の絶対値が、外部入力の項の絶対値を越えると、 再び条件式が成り立ち、外部入力の項の絶対値が不応性の項の絶対値を越えるように再び学習が始まる。 これを繰り返すことにより学習をより強めていく。

式 (4.1) が成り立つとヘッブの原理に沿って結合荷重を変化させる。 i 番目のニューロンの j 番目のニューロンからの 出力に掛かる結合荷重 tex2html_wrap_inline1196 の変化は式(4.2) で表される。

  equation225

i 番目のニューロンの外部入力の項とj 番目のニューロンの出力の積が、 正ならば結合荷重値を tex2html_wrap_inline1242 する。また負なら tex2html_wrap_inline1244 する。 結合荷重が正であれば tex2html_wrap_inline1242 することで結合を強め、 tex2html_wrap_inline1244 で結合を弱める。 逆に結合荷重が負であれば tex2html_wrap_inline1242 することで結合を弱め、 tex2html_wrap_inline1244 で結合を強める。 これを繰り返し、ネットワークの結合荷重を少しずつ、 ゆっくりと変化させることで、入力パターンを少しずつ学習していく。



Toshinori DEGUCHI
2004年 3月17日 水曜日 10時27分17秒 JST