next up previous contents
Next: 第5章 実験 Up: 第4章 学習 Previous: 4.1 学習

4.2 逐次学習法

逐次学習法とは個々のニューロンが自分自身の内部状態により結合荷重を変化させるか判別を行ない、追加学習を行なう学習法である。

逐次学習法では、式(3.6)で示したカオスニューロンの内部状態を表す三つの値、外部入力の項、相互結合の項、不応性の項においてある条件が満たされる時学習を行なう。その条件とは、相互結合の項が外部入力の項と異符合であるということであり、逆にいえば二つの項が同符合になるまで結合荷重を変化させるということである。

その条件を数式化したものが式(4.1)である。

  equation224

4.1節で述べたように学習するということは、次にそのパターンが入力された時には、すばやくそのパターンを想起するようにニューロン間の結合荷重を変化させることである。結合荷重の変化は相互結合の項のみ影響を与えるので、相互結合の項が外部入力の項と同じ符合になるまで結合荷重を変化させれば、ネットワーク全体のエネルギーの極小点に向かおうとする相互結合の力と、外部入力による入力されたパターンに近付こうとする力が同じ向きに働くようになるために、次にそのパターンが入力された時には、すばやくそのパターンを想起することができるようになる。また、相互結合の項が外部入力の項と同じ符合になってからある程度時間が過ぎると、外部入力の項と反対の符合の不応性の項(この時点では相互結合の項とも反対の符合)の影響が大きくなり、相互結合の項よりも不応性の項の値が絶対値で大きくなると再び式(4.1)が成立して相互結合の項は不応性の項より絶対値で大きくなるように変化する。これは相互結合の項の絶対値の大きさをある一定の値以上まで大きくすることで、全てのパターンを均等に学習することができる。

式(4.1)が成り立ったニューロンの結合荷重を、4.1節で述べた学習の形式で次のように結合荷重を変化させる。 i 番目のニューロンの j 番目のニューロンからの出力に掛かる結合荷重 tex2html_wrap_inline1380 の変化は式(4.2)で表される。i 番目のニューロンの外部入力項と j 番目のニューロンの出力の積が、正なら結合荷重値を+0.05し、負なら-0.05する。結合荷重値 tex2html_wrap_inline1380 が正の符合であれば、プラスすることで j 番目のニューロンとの結合を強め、マイナスすることで弱めることになる。結合荷重値が負の符合であれば、プラスすることで j 番目のニューロンとの結合を弱め、マイナスすることで強めることになる。これを繰り返すことによりネットワークは入力パターンを少しずつ学習することができる。

  equation234



Deguchi Toshinori
Thu Jul 13 13:13:35 JST 2000