next up previous contents
Next: 第5章 実験 Up: 第4章 追加学習 Previous: 4.2 ホップフィールドネットの学習法

4.3 局所的追加学習

局所的学習法とは個々のニューロンが自分自身の内部状態により結合荷重を変化させるか判別を行ない、追加学習を行なう学習法である。

局所的学習法では、式(3.6)で示したカオスニューロンの内部状態を表す三つの値、外部入力の項、相互結合の項、不応性の項においてある条件が満たされる時学習を行なう。その条件とは、相互結合の項が外部入力の項と異符合であるということであり、逆にいえば二つの項が同符合になるまで結合荷重を変化させるということである。

その条件を数式化したものが式(4.2)である。

  equation233

4.1節で述べたように学習するということは、次にそのパターンが入力された時には、すばやくそのパターンを想起するようにニューロン間の結合荷重を変化させることである。結合荷重の変化は相互結合の項のみ影響を与えるので、相互結合の項が外部入力の項と同じ符合になるまで結合荷重を変化させれば、ネットワーク全体のエネルギーの極小点に向かおうとする相互結合の力と、外部入力による入力されたパターンに近付こうとする力が同じ向きに働くようになるために、次にそのパターンが入力された時には、すばやくそのパターンを想起することができるようになる。また、相互結合の項が外部入力の項と同じ符合になってからある程度時間が過ぎると、外部入力の項と反対の符合の不応性の項(この時点では相互結合の項とも反対の符合)の影響が大きくなり、相互結合の項よりも不応性の項の値が絶対値で大きくなると再び式(4.2)が成立して相互結合の項は不応性の項より絶対値で大きくなるように変化する。これは相互結合の項の絶対値の大きさをある一定の値以上まで大きくすることで、全てのパターンを均等に学習することができる。

式(4.2)が成り立ったニューロンの結合荷重を、4.1節で述べた学習の形式で次のように結合荷重を変化させる。

  equation240

tex2html_wrap_inline1065 は正か負か?というのは、i番目のニューロンの出力とj番目のニューロンの出力が共に興奮 tex2html_wrap_inline915 静止状態なら正で、一方が興奮、もう一方静止状態なら負になることを示している。そのため正なら結合荷重を強め、負なら結合荷重を弱める。これを繰り返すことにより、ネットワークは入力パターンを少しずつ学習することができる。また、入力パターンにノイズや欠落が存在している場合、離散ステップ時間ごとに見るとノイズや欠落の影響で結合荷重が正しい変化をしない時もあるが、多数繰り返されるために全体としては正しいパターンが想起できる結合荷重に変化することができる。つまりノイズや欠落が存在しても正しいパターンを追加学習することができるということである。



Deguchi Toshinori
1999年03月23日 (火) 16時14分02秒 JST