next up previous contents
Next: 第4章 連想記憶 Up: 第3章 ニューロンとは Previous: 3.4 ニューロンのモデル化

3.5 学習則

先に述べた細胞モデルには学習機能がないため、本研究では、シナプスの可塑性によって学習を行なうこととする。

シナプスの可塑性を具体的に表したのが、``同時に発火した細胞同士の間のシナプス結合は大きくなる'' というヘッブの原理であり、この原理に基づいて学習をおこなう。 ヘッブの原理を式で表すと、つぎのようになる。 [6]

  equation101

ただし、 c は定数で、 tex2html_wrap_inline1285j 番目の細胞から i 番目の細胞へのシナプス荷重である。 また、 tex2html_wrap_inline1291 , tex2html_wrap_inline1293 はそれぞれの細胞の出力である。 本論文では、``同じ状態にあった場合にシナプス結合が増加する''というものに ``同時に発火しない細胞同士のシナプス荷重は減少する''というものをつけ加えた変形学習則のほうが、 記憶の忘却という心理的行動からも妥当であるため、この法則を採用する。

シナプス荷重変化の一般法則は以下の通りである。 シナプス荷重 tex2html_wrap_inline1249 は、学習の進行中は入力信号と学習信号 r の積に比例して増加するとともに、一定の割合で減衰する。 この割合には0を含み、学習信号 r は、細胞の入力、出力および教師信号 y の関数として決まる。 教師信号のない場合は y=0 である。 シナプス荷重変化の法則を式で表すと、

  equation107

である。ここに、 tex2html_wrap_inline1305 は定数、 tex2html_wrap_inline1307 である。 x,w は、 tex2html_wrap_inline1313 , tex2html_wrap_inline1249 を並べたベクトルである。 式(3.5)をベクトルで表すと、

  equation115

となる。学習の結果、神経細胞のシナプス荷重 w がどのような値になるかは、 入力信号の時系列 x と、教師信号の時系列 y で決まる。 神経細胞は、この時系列の情報構造に従って自己の w を変えることになる。 そこで、入力情報 tex2html_wrap_inline1331 を神経細胞の情報源 I と考える。 情報源 I は信号の組 tex2html_wrap_inline1337 を頻度 tex2html_wrap_inline1337 で発生するものと考えれば、 I は信号 tex2html_wrap_inline1337 を確率 tex2html_wrap_inline1345 で毎回独立に発生する確率的情報源と考えてよい。 I は確率 p に基づいたランダムな信号系列であり、特に I が有限個の信号の対 tex2html_wrap_inline1353 のみをそれぞれ確率 tex2html_wrap_inline1355 で含めば、 時系列 tex2html_wrap_inline1331 はこの tex2html_wrap_inline1359 を頻度が tex2html_wrap_inline1355 になるようランダムな順序で並べたものになる。

wI から現実に発生した時系列に依存して決まるが、 I から出る時系列はどれも類似の性質をもっている。 信号の組 tex2html_wrap_inline1359 は長い時間にはどの時系列でも 確率 tex2html_wrap_inline1371 にほぼ等しい頻度で出現する。 これは、情報源のもつエルゴード的性質である。 したがって、I からどの時系列で出ても、それは I の確率的構造を表し、 学習の結果 w は殆ど変わらない。 すなわち、wI の構造だけに依存するということである。



Deguchi Toshinori
1996年10月29日 (火) 11時21分05秒 JST