next up previous contents
Next: 第2章 ニューロンとニューラルネットワーク Up: 無題 Previous: 目次

第1章 序論

人間の脳の中には140億もの神経細胞(ニューロン)があるといわれている。 これらの神経細胞はシナプス結合により巨大で複雑なネットワークを構成している。 ニューロン一つずつの活動は単純なものではあるが、 人間の学習する、又は思い出すという機構はこの上になり立っている。 目で見るものや耳から聞きとる音、匂いや物質を触った感覚らは 一瞬にして信号に変換され、この脳内のネットワークに送られ情報処理される。 そして、処理された情報はデータとして記憶され、 一度体験したものは知覚として即座に想起出来るといった具合である。 この一連の処理過程はパーソナルコンピューターを遥かに上回る速度で行なわれる。 ニューラルネットワークとは優れた並列情報処理機構ともいえる。

ニューラルネットワークの様な効率的な機構をモデル化することは、 只の研究だけにとどまらない。 その利用の幅も工学的に大きく広がると言える。 例えば文字や画像を認識したり、音声を聞いて判断するという 柔軟な処理をすることが可能になる。 またコンピュータの処理機構を、人間の頭脳同様に置き換えてみたいと、 研究者でなくとも誰もが思うところでもある。

ニューラルネットワークモデルを構築する試みは、 1943年にマッカロとピッツ(W.S.McCulloch, W.Pitts)の ニューロンを演算素子に抽象化して集団による並列処理を行なう研究をした ことに始まる。 このニューロンモデルは他のニューロンから信号を与えられると興奮し 出力側の軸索に電気パルスを送り出す。そして興奮しない限りは パルスも殆んど出さない。彼らはこれを1と0に量子化した信号だと考え、 興奮状態を1、非興奮状態を0とした。この信号は軸索を通じ、 シナプス結合を介して多くの他のニューロンの樹状突起に送られる。 また、信号を受け取るとシナプス結合の強さに応じた刺激が ニューロンに伝えられている。 ここで信号自体は1か0の二種類しかないものの 他のニューロンに送られる際、 個々のニューロンのシナプス結合の強さの違いが 与える影響の大きさの違いとして存在している。 そして刺激の総和が細胞自身の持つ閾値を越えた時に興奮し、 それ以下なら興奮しない。

1949年、ヘッブ(D.O.Hebb)は神経細胞が興奮すると、 入力部のシナプス結合のうち、刺激を伝えたものは結合強度が増し、 さらに刺激が伝えやすくなるという説を唱えた。 これが神経回路に可へい性をもたらし、認識や記憶のもとになっていると主張した。 これをヘッブのシナプス強化説と呼び、現在に至る大部分の ニューラルネットワークモデルの学習法則のもととなっている。 本研究でもまた、ヘッブの説を学習の概念に用いている。

1982年には、ホップフィールド(J.J.Hopfield)が神経回路のモデルを提案した。 彼は、ニューロンの発火のアルゴリズムと結合係数の組が決められた 神経回路網に、適当に与えられた興奮パターンが安定に存在しないで 変化していく時、それにつれて必ず減少していくエネルギー関数が定義できて、 関数が極小値に達する時にパターンは安定になるという 神経回路網のダイナミクスを示した。 この極小値に対応するパターンを記憶パターンとすれば、 このシステムは適当な刺激パターンから、記憶するパターンを想起する 連想記憶装置となる。

一方、物理学の分野では、1970年代の後半から1980年代には カオスと呼ばれる決定論的非周期振動に関する研究が盛んになっていた。 生体ニューロンに関しては不規則なカオス的応答が発見され、 神経系の機能とカオスの関連性が議論されるようになった。 Freemanらはウサギ嗅球の脳波とそのモデルのにおい刺激に関する応答を調べた。 彼らはカオスは記憶探索するためのものだけではなく、未知のパターンを識別し、 学習するためにも使われていると考えている。これらから、 カオス現象を持つニューラルネットの働きを研究され、現在に至る。

これまでは、カオスニューラルネットによる学習においていかに多くを学習するか という研究がされてきたことに対し、本研究ではいかにカオスニューラルネットが 学習したパターンを忘れていくかを調べた。 どのような状況で学習させたパターンを忘れるかを調べれば、 逆にそれは学習させたものを忘れない為の発見に繋がるのではないか と考えたからである。

今回カオスニューラルネットの学習法として逐次学習法を用いた。 この、逐次学習法ではHebbの互いのニューロンが同じ(興奮)状態にある時は、 シナプス結合を強くするという理論を応用した学習法で、 互いのニューロンが同じ状態の時にはシナプス結合を強くして、 違う状態の時にはシナプス結合を弱くするという動作により、 個々のニューロンが自分自身の内部状態により 結合荷重を変化させるか否かの判別を行ない、追加学習を行なう方法である。 逐次学習法では、カオスニューロンの内部状態を示す外部入力項、 相互結合項、不応性項からある条件が満たされる時に学習を行なう。 その学習条件とは、相互結合の項と外部入力の項の符合が異なる時である。 この過程を繰り返せば二つの項が同符合になるまで結合荷重を変化させることになる。

用いたパターンは、アルファベットのAからZまでを用意して、 AからFまでを研究の対象とした。 ランダムパターンより、アルファベットのパターンを用いた意図は、 対象パターンを忘れていく過程で、どの様なパターンに影響され、 又どの様にしてパターンが崩れて想起されるのか、人間の視覚に分かり易い 形で表現することを目的としたからである。 本研究では、忘れさせる対象について初期学習回数を変化させ、 その後学習させるパターンの学習回数・学習個数・学習順を変えることで、 対象となるパターンが忘れる様子を調べた。 上記で述べたように、本研究から カオスニューラルネットがいかに「覚えたもの」を忘れていくのか、 また忘れにくくなるためにはどうしたら良いのかを求めていく。



Deguchi Toshinori
Mon Feb 19 18:58:08 JST 2001