next up previous contents
Next: ニューロンとニューラルネットワーク Up: 無題 Previous: 目次

序論

人間の脳の中には140億もの神経細胞(ニューロン)があるといわれ, これらの神経細胞はシナプス結合により巨大で複雑なネットワークを構成している。 ニューロン一つずつの活動は単純なものではあるが, 人間の学習する, 又は思い出すという機構はこの上になり立っている。 目で見るものや耳から聞きとる音, 匂いや物質を触った感覚らは 一瞬にして信号に変換され,この脳内のネットワークに送られ情報処理される。 そして,処理された情報はデータとして記憶され, 一度体験したものは知覚として即座に想起出来るといった具合である。 この一連の処理過程はパーソナルコンピュータを遥かに上回る速度で行なわれる。 ニューラルネットワークとは優れた並列情報処理機構ともいえる。

ニューラルネットワークの様な効率的な機構をモデル化することは, 只の研究だけにとどまらず, その利用の幅も工学的に大きく広がると言える。 例えば文字や画像を認識したり,音声を聞いて判断するという様な 柔軟な処理をすることも可能になる。 またコンピュータの処理機構を,人間の頭脳同様に置き換えてみたいと, 研究者でなくとも誰もが思うところでもある。

ニューラルネットワークモデルを構築する試みは, 1943年にマッカロとピッツ(W.S.McCulloch, W.Pitts)が ニューロンを演算素子に抽象化して集団による並列処理を行なう研究をした ことに始まる。 このニューロンモデルは他のニューロンから信号を与えられると興奮し 出力側の軸索に電気パルスを送り出す。そして興奮しない限りは パルスを殆んど出力しない。彼らはこれを1と0に量子化した信号だと考え, 興奮状態を1,非興奮状態を0とした。この信号は軸索を通じ, シナプス結合を介して多くの他のニューロンの樹状突起に送られる。 また,この信号を受け取るとシナプス結合の強さに応じた刺激が ニューロンに伝えられている。 ここで信号自体は1か0の二種類しかないものの 他のニューロンに送られる際, 個々のニューロンのシナプス結合の強さの違いが 与える影響の大きさの違いとして存在している。 そして刺激の総和が細胞自身の持つ閾値を越えた時に興奮し, それ以下なら興奮しない。

1949年,ヘッブ(D.O.Hebb)は神経細胞が興奮すると, 入力部のシナプス結合のうち,刺激を伝えたものは結合強度が増し, さらに刺激が伝えやすくなるという説を唱えた。 これが神経回路に可へい性をもたらし,認識や記憶のもとになっていると主張した。 これをヘッブのシナプス強化説と呼び,現在に至る大部分の ニューラルネットワークモデルの学習法則のもととなっている。 本研究でもまた,ヘッブの説を学習の概念に用いている。

1982年には,ホップフィールド(J.J.Hopfield)が神経回路のモデルを提案した。 彼は,ニューロンの発火アルゴリズムと結合係数の組が決められた 神経回路網に,適当に与えられた興奮パターンが安定に存在しないで 変化していく時,それにつれて必ず減少していくエネルギー関数が定義できて, 関数が極小値に達する時にパターンは安定になるという 神経回路網のダイナミクスを示した。 この極小値に対応するパターンを記憶パターンとすれば, このシステムは適当な刺激パターンから,記憶するパターンを想起する 連想記憶装置となる。

一方,物理学の分野では,1970年代の後半から1980年代には カオスと呼ばれる決定論的非周期振動に関する研究が盛んになっていた。 生体ニューロンに関しては不規則なカオス的応答が発見され, 神経系の機能とカオスの関連性が議論されるようになった。 Freemanらはウサギ嗅球の脳波とそのモデルのにおい刺激に関する応答を調べた。 彼らはカオスは記憶探索するためのものだけではなく,未知のパターンを識別し, 学習するためにも使われていると考えている。これらから, カオス現象を持つニューラルネットの働きが研究され,現在に至る。

このカオスニューラルネットワークの学習法として 合原や浅川らが提案する逐次学習法がある。 この,逐次学習法ではHebbの互いのニューロンが同じ(興奮)状態にある時は, シナプス結合を強くするという理論を応用した学習法で, 互いのニューロンが同じ状態の時にはシナプス結合を強くして, 違う状態の時にはシナプス結合を弱くするという動作により, 個々のニューロンが自分自身の内部状態により 結合荷重を変化させるか否かの判別を行ない,追加学習を行なう方法である。 逐次学習法では,カオスニューロンの内部状態を示す外部入力項, 相互結合項,不応性項からある条件が満たされる時に学習を行なう。

本研究では,学習パラメータである不応性項の係数αが 学習にどの様な影響を与えるかを調べた。 また学習させるパターンに対して学習回数を変えることで, ネットワークの学習特性を調べていく。



Toshinori DEGUCHI
2003年 4月14日 月曜日 09時55分33秒 JST