next up previous contents
Next: ニューロンとニューラルネットワーク Up: nishioka Previous: 目次   目次


序論

人間の脳には約140億個もの神経細胞、すなわちニューロンが存在するといわれており、これらがシナプスと結合することによって、巨大で複雑なネットワークを構成している。 ニューロン単体の活動は単純であるが、人間が学習、記憶、そして思い出すという機構はここで成り立っている。 ニューロンは、外部から伝わってくる味覚、視覚、聴覚、嗅覚、触覚の五感を信号に変換する。各ニューロンは、他のニューロンと信号のやり取りを行いながら、ネットワークの中で高度な情報処理を行っている[3]。 これらの働きは脳内のニューロンによるネットワークによるものであり、このネットワークはニューラルネットワークと呼ばれる。ニューラルネットワークは、優れた並列処理機構ともいえる[1]。

ニューラルネットワークは、元々は生物のニューロンの回路で行われている情報処理のモデル化であり、情報工学、数理工学、生物学や物理学の分野で教育研究が行われており、数学的モデル化と計算機シミュレーションで構成されている。 処理は非線形であり、非線形科学の中では最も発展した分野の一つで、工学的にモデル化されたニューロンで疑似的に再現しようとしたニューラルネットの利用の幅はとても広いとされている。 例えば、文字や画像・音声などといったものを認識し、柔軟な判断を下すことができるようになる。このようなことができるようになれば、人間の脳に近い機能を再現できる、現在のコンピュータが不得意な処理を行うことができるという期待から、多くの研究者によって新たな情報処理の方法として研究が進められている。

ニューラルネットワークを構築する試みは、1943年、マッカロ(W.S.McCulloh)とピッツ(W.Pitts)がニューロンを演算素子に抽象化して、集団による並列処理を行う研究から始まったとされる。このニューロンモデルはほかのニューロンから信号が与えられると、興奮状態となり他の軸索に電気パルス信号を出力し、信号が与えられず興奮状態ではない場合パルス信号をほとんど出力しない。彼らは興奮状態を1、非興奮状態を0とし、量子化された信号と考えた。また、ニューロンには樹状突起があり、そこに他のニューロンからの軸索が結合され、信号を受け取る。この結合部のことをシナプス結合と呼ぶ。 このシナプス結合には、受け取った出力の総和がニューロンごとに決められた閾値を超えたときに起こる興奮状態と、超えないときに起こる非興奮状態がある。 彼らはシナプス結合の強さはすべて同じと考えていたが、後の研究者達によってシナプス結合の強さはそれぞれ異なり、その強さによって伝搬されると修正されている。

1949年にヘッブ(D.O.Hebb)は、ニューロンの興奮により入力部のシナプス結合によって刺激を伝えたものは結合強度が増し、さらに刺激が伝えやすくなるのではないかという仮説を立てた。これが神経回路に可へい性をもたらし、認識や記憶のもとになっていると主張した。これをヘッブのシナプス強化説と呼ぶ。

1982年にはアメリカの物理学者であるホップフィールド(J.J.Hopfield)が神経回路網のモデルを提案した。彼は、ニューロンの発火のアルゴリズムと結合係数の組が決められた神経回路網に、適当に与えられた興奮パターンが安定に存在しない状態で変化していく時、それにつれて必ず減少していくエネルギー関数が定義可能であり、その関数の極小値に対応するパターンは安定になるという神経回路網のダイナミクスを示した。この極小値に対応するパターンを記憶するパターンとすれば、このシステムは適当な刺激パターンから記憶するパターンを想起することができる連想記憶装置となるわけである 。 一方で、生体としてのニューロンの研究も行われた。イカの一種であるヤリイカは神経膜の電気生理実験材料に最適な巨大なニューロンを持っていた。イギリスのホジキン(Sir.Alan.Lloyd Hodgkin)とハクスレー(Andrew.Fielding.Huxley)の研究によってヤリイカは神経の基本動作機構の解明に大きく貢献した。また、ヤリイカの巨大軸索の実験ではニューロンのカオス的な反応が認められた。それを受けて、1990年、合原らがカオスニューラルネットワークを提唱した。生体にはごく自然に存在するとされるカオスを導入することによって、ニューラルネットワークがより実際の脳の動作に近くなると期待された[2]。

本研究では、カオスニューラルネットワークに逐次学習法を用いて学習を行う。

逐次学習については過去の研究でも多く扱われていた。 学習する入力パターンとして「1」と「$-1$」の比率を50:50として行われてきたが、 この比率には特殊な結果が得られることが分かった。 そのため、この比率を変更した場合、異なる結果が出てくる可能性がある。

そこで、パターンに含まれる「1」「$-1$」比率の変化させてランダムパターンを生成し、これらのパターンを用いて学習を行い、逐次学習の結果がどのように変わっていくか、 学習個数はどのくらいできるのか、またどのパターンの場合に想起成功率が上昇するのか調べる。

また、使用したパターンの偏りを確認するため、比率ごとに1パターン内の構成が他のパターンの構成とどのくらい異なっているのかを調べる。 



Deguchi Lab. 2015年3月4日