本研究では、心理学者O.H.Hebbが考えた教師信号を用いない学習仮説を 応用した、逐次学習法を用いて学習する。
脳の中において学習や記憶を担う場所はニューロンのシナプスなのではないか、 という考え方はHebb以前からあった。 Hebbは心理学的知見と解剖学的知見とから、さらに具体的に シナプスがどのような機構で変化して学習が成立するのかということについて、 1つの学習仮説を導いた。 Hebbの学習仮説を分かりやすい言い方で表現すると、 「ニューロンAからニューロンBへの結合荷重は、 ニューロンAとニューロンBが同時に発火するときに、増大する。」 ということである[2]。
逐次学習法はこのHebbの学習仮説を応用し、ニューロンAとニューロンBが ともに同じ状態(共に興奮、静止状態)である時はシナプス結合を強くし、 異なる状態(一方が興奮、もう一方が静止状態)である時はシナプス結合を 弱める学習方法である。
逐次学習は式(3.2) 〜 式(3.4) で示した
カオスニューロンの内部状態を表す三つの項、すなわち外部入力の項 、
相互結合の項
、不応性の項
において、
式(4.1) の条件が満たされる時に学習を行って行く。
つまりこの条件式は相互結合の項と不応性の項の和と、 外部入力の項との積が負の時に、積が正になるまで結合荷重を変化することで 学習することを表している。
結合荷重の変化は相互結合の項のみに影響を与えるので 相互結合の項が外部入力の項の符合と同じになることにより、 相互結合の項によってネットワークのエネルギーが極小値に向かうおうとする力と、 外部入力によって入力されたパターンに近付こうとする力が同じ方向に働き、 次に同じパターンが入力された時すばやく想起できるようになる。 また、式(4.1) が成立し、ある程度時間が過ぎると 外部入力の項と反対の符合を持つ不応性の項の値が大きくなっていく。 それにより、不応性の項の絶対値が、外部入力の項の絶対値を越えるとまた 条件式(4.1) が成り立ち、外部入力の項の絶対値が 不応性の項の絶対値を越えるように再び学習が始まる。 これを繰り返すことにより学習をより強めていく。
式(4.1) が成り立った時、ヘッブの原理に沿って結合荷重を変化させる。
i 番目のニューロンの j 番目のニューロンからの
出力に掛かる結合荷重 の変化は式(4.2) で表される。
i 番目のニューロンの外部入力の項とj 番目のニューロンの出力の積が、
正ならば結合荷重値を する。また負なら
する。
結合荷重が正であれば
することで結合を強め、
で結合を弱める。
逆に結合荷重が負であれば
することで結合を弱め、
で結合を強める。
これを繰り返して、ネットワークの結合荷重を少しずつ変化させることで、
入力パターンを少しずつ学習していくのである。