next up previous contents
Next: 実験 Up: 連想記憶と学習 Previous: 連想記憶

逐次学習法

従来の連想記憶モデルの多くは, 4.1節で述べた通り, 学習過程と想起過程とが分離されている. しかし, 脳内において, 学習と想起とは 分離されたものではないと考える方が自然である. また, ネットワークに記憶させるパターンが あらかじめ全てわかっているとは限らない. そこで, 既知のパターンが入力されるとそれを想起し, 未知パターンが入力されると新しいパターンとして学習するネットワークを考える. その学習法として, 浅川が提案した逐次学習法がある.

浅川らが提案した逐次学習法とは, ネットワークを形成する個々のニューロンが単独で 自分の内部状態から判断して他のニューロンとの結合荷重を変化させることにより, 学習を行なうものである[7].

研究で用いたカオスニューロンの内部状態は 3つの項(外部入力, 相互結合, 不応性)の和で決まり, 相互結合の項と不応性の項の和が, 外部入力の項と同じ符合になるまで結合荷重を変化させる. 不応性は同じ出力をあたえにくくする働きがあり, 出力の負のフィードバックを持っている. ここでは不応性の項と同じ大きさまで結合荷重を変化させることで 学習を強化させている. またこの過程を多数繰り返すことで, より強固に学習をすることが出来る. 学習条件は以下のようになる.

学習条件

  equation284

この条件式は, 相互結合項 tex2html_wrap_inline1345 と 不応性項 tex2html_wrap_inline1347 の和と外部入力 tex2html_wrap_inline1343 の積が負の時に学習することを表している.

こうして, 積が正になるまで結合荷重を変化させ続ける. 学習するということは, 既知パターンが入力された時には, すばやくそのパターンを想起することが出来るように, ニューロン間の 結合荷重を変化させることだからである.

結合荷重の変化は相互結合の項のみ影響を与える. 相互結合の項が外部入力の項と同じ符合になるまで結合荷重を変化させれば, ネットワーク全体のエネルギーの極小点に向かおうとする相互結合の力と, 外部入力による入力されたパターンに近付こうとする力が 同じ向きに働くようになるため, 次にそのパターンが入力された時には すばやくそのパターンを想起することができるようになる.

式(4.1)が成り立ったニューロンの結合荷重を 次のように変化させる. i 番目のニューロンの j 番目のニューロンからの 出力に掛かる結合荷重 tex2html_wrap_inline1317 の変化は式(4.2)で表される. i 番目のニューロンの外部入力項と j 番目のニューロンの出力の積が, 正なら結合荷重値を tex2html_wrap_inline1433 分加算し, 負なら tex2html_wrap_inline1433 分 減算する. 結合荷重値 tex2html_wrap_inline1317 が正の符合であれば, プラスすることで j 番目のニューロンとの結合を強め, マイナスすることで弱めることになる. 結合荷重値が負の符合であれば, プラスすることで j 番目のニューロンとの結合を弱め, マイナスすることで強めることになる. これを繰り返すことによりネットワークは入力パターンを少しずつ 学習することができる.

  equation292



Toshinori DEGUCHI
2004年 2月22日 日曜日 14時38分28秒 JST