next up previous contents
Next: 第5章 実験 Up: 第4章 学習 Previous: 4.1 ニューロンの学習

4.2 逐次学習法

 

逐次学習法は相互結合型ニューラルネットの学習法の一種であり、 個々のニューロンが自分自身の内部状態により 結合荷重を変化させるか判別を行ない、追加学習を行なう学習法である。

逐次学習法では、式(3.5)示したカオスニューロンの 内部状態を表す三つの値、外部入力の項( tex2html_wrap_inline1266 )、相互結合の項( tex2html_wrap_inline1270 )、 不応性の項( tex2html_wrap_inline1274 )において、 ある条件が満たされる時、結合荷重を変化させ学習を行なう。その条件とは、 相互結合の項が外部入力の項と異符合であるということであり、 逆にいえば二つの項が同符合になるまで結合荷重を変化させるということである。

その条件を数式化したものが式(4.1)である。

  equation226

4.1節で述べたように学習するということは、 未知のパターンが入力された時に、 すばやくそのパターンを想起するようにニューロン間の結合荷重を変化させる ことである。結合荷重の変化は相互結合の項のみ影響を与えるので、 相互結合の項が外部入力の項と同じ符合になるまで結合荷重を変化させれば、 ネットワーク全体のエネルギーの極小点に向かおうとする相互結合の力と、 外部入力による入力されたパターンに近付こうとする力が 同じ向きに働くようになるために、次にその未知パターンが入力された時には、 すばやくそのパターンを想起することができるようになる。 また、相互結合の項が外部入力の項と同じ符合になってから ある程度時間が過ぎると、外部入力の項と反対の符合の不応性の項 (この時点では相互結合の項とも反対の符合)の影響が大きくなり、 相互結合の項よりも不応性の項の値が絶対値で大きくなる。 ここで再び式(4.1)が成立して相互結合の項は 不応性の項より絶対値で大きくなるように変化する。

式(4.1)が成り立ったニューロンの結合荷重を、 4.1節で述べたように変化させる。 i 番目のニューロンの j 番目のニューロンからの 出力に掛かる結合荷重 tex2html_wrap_inline1254 の変化は式(4.2)で表される。 i 番目のニューロンの外部入力項と j 番目のニューロンの出力の積が、 正なら結合荷重値を tex2html_wrap_inline1112 し、負なら tex2html_wrap_inline1298 する。 結合荷重値 tex2html_wrap_inline1254 が正の符合であれば、プラスすることで j 番目のニューロンとの結合を強め、マイナスすることで弱めることになる。 結合荷重値が負の符合であれば、プラスすることで j 番目のニューロンとの結合を弱め、マイナスすることで強めることになる。 これを繰り返すことによりネットワークは入力パターンを少しずつ 学習することができる。 本研究では、結合荷重である tex2html_wrap_inline1112 を変化させていき、 学習にどのような影響があるか検討する[6]。

  equation237



Deguchi Toshinori
Wed May 15 13:53:18 JST 2002