next up previous contents
Next: 想起とは Up: 学習と想起 Previous: 学習の分類

逐次学習法

本研究では、心理学者O.H.Hebbが考えた教師信号を用いない学習仮説を 応用した、 入力信号そのものを教師信号とする逐次学習法を用いて学習する。

脳の中において学習や記憶を担う場所はニューロンのシナプスなのではないか、 という考え方はHebb以前からあった。 Hebbは心理学的知見と解剖学的知見とから、さらに具体的に シナプスがどのような機構で変化して学習が成立するのかということについて、 1つの学習仮説を導いた。 Hebbの学習仮説を分かりやすい言い方で表現すると、 「ニューロンAからニューロンBへの結合荷重は、 ニューロンAとニューロンBが同時に発火するときに、増大する。」 ということである[3]。

逐次学習法はこのHebbの学習仮説を応用し、ニューロンAとニューロンBが ともに同じ状態(共に興奮あるいは静止状態)である時は結合加重を大きくし、 異なる状態(一方が興奮、もう一方が静止状態)である時は結合加重を 小さくする学習方法である。

逐次学習は式(3.2) 〜 式(3.4) で示した カオスニューロンの内部状態を表す3つの項、すなわち外部入力の項 tex2html_wrap_inline1672 、 相互結合の項 tex2html_wrap_inline1674 、不応性の項 tex2html_wrap_inline1676 において、 式(4.1) の条件が満たされる時に学習を行っていく。

  equation219

つまりこの条件式は相互結合の項と不応性の項の和と、 外部入力の項との積が負の時に、積が正になるまで結合荷重を変化することで 学習することを表している。

結合荷重の変化は相互結合の項のみに影響を与えるので 相互結合の項が外部入力の項の符合と同じになることにより、 相互結合の項によってネットワークのエネルギーが極小値に向かうおうとする力と、 外部入力によって入力されたパターンに近付こうとする力が同じ方向に働き、 次に同じパターンが入力された時すばやく想起できるようになる。 また、式(4.1) が成立し、ある程度時間が過ぎると 相互結合の項と反対の符合を持つ不応性の項の値が大きくなっていく。 それにより、不応性の項の絶対値が、相互結合の項の絶対値を越えるとまた 条件式(4.1) が成り立ち、相互結合の項の絶対値が 不応性の項の絶対値を越えるように再び学習が始まる。 これを繰り返すことにより学習をより強めていく。

式(4.1) が成り立った時、Hebbの原理に沿って結合荷重を変化させる。 i 番目のニューロンの j 番目のニューロンからの 出力に掛かる結合荷重 tex2html_wrap_inline1682 の変化は式(4.2) で表される。

  equation227

i 番目のニューロンの外部入力の項とj 番目のニューロンの出力の積が、 正ならば結合荷重値を tex2html_wrap_inline1692 する。また負なら tex2html_wrap_inline1694 する。 結合荷重が正であれば tex2html_wrap_inline1692 することで結合を強め、 tex2html_wrap_inline1694 で結合を弱める。 逆に結合荷重が負であれば tex2html_wrap_inline1692 することで結合を弱め、 tex2html_wrap_inline1694 で結合を強める。 これを繰り返して、ネットワークの結合荷重を少しずつ変化させることで、 入力パターンを少しずつ学習していくのである。



Toshinori DEGUCHI
2005年 4月 1日 金曜日 16時36分09秒 JST