人間の脳は優れた記憶能力、学習能力を持っている。 脳には140億個にも及ぶニューロンと呼ばれる神経細胞があるといわれ、 これらが構成するネットワークによって記憶能力、学習能力は生み出されている。 人間は、視覚、聴覚、触覚といった外部からの刺激を受けとると、 その刺激を信号に変換し、脳内のネットワークに送り情報処理を行なっている。 また、一度受けとった刺激はネットワークによって学習され、 即座に知覚として想起することができるようになる。 また、この処理速度はコンピュータを遥かに上回る速度で行なわれる。 ニューラルネットワークとは、この脳内のネットワーク処理をモデル化し、コンピュータ上で再現するものである[1]。 脳内のネットワークをモデル化することにより従来の情報処理では実現が難しい 柔軟な処理を行なうことが可能になってくると考えられる。
ニューラルネットワークの研究は1943年のマッカロ(W.S.McCulloch)とピッツ(W.Pitts)の研究に始まる。 彼らは、ニューロンが興奮状態になると、 ニューロンの出力部である軸索に1に量子化されたパルス列の電気信号を出力し、 非興奮状態にある時は0に量子化された信号を出力すると考えた。 ニューロンには他のニューロンからの入力を受け取る樹状突起があり、 そこに軸索が結合している。 この結合部はシナプス結合と呼ばれる。 彼らは、シナプス結合によって受け取った出力の総和が ニューロンごとに決められたしきい値を越えると興奮し、 それ以下であれば興奮しないと考えニューロンのモデル化を行なった。 彼らのモデル化ではシナプス結合の大きさはすべて同じと考えられていたが、 後の研究者たちはシナプス結合の強さはそれぞれ異なり、 この強さによって刺激の伝搬量が変わると考えた。
1949年に、ヘッブ(D.O.Hebb)は、ニューロンが興奮状態となり、刺激を出力すると、その刺激を伝えた結合はより強くなりより刺激を伝えやすくなるという仮説を立て、 これがニューラルネットに可へい性を与え、認識や記憶のもとになっていると主張した。 これをヘッブのシナプス強化説と呼び 現在のニューラルネットワークの学習法の基本となっている。 本研究においてもヘッブの説を学習の概念に用いている。
一方、物理学の分野では1970年代後半から1980年代にかけてカオスと呼ばれる 決定論的非周期振動に関する研究が盛んになり、 生体としてのニューロンの研究において、ニューロンにカオス的な反応が認められた。 それを受けて1990年、合原らがカオスニューロンモデルを発表した。カオスの要素を導入することで、ニューラルネットワークがより実際の脳の動作に近くなると期待された。
本研究ではカオスニューロンのネットワークに逐次学習法を用いて学習を行なう。 逐次学習法とは本研究室が提案した学習法であり、ヘッブの理論に基づき互いのニューロンが同じ状態にあるときシナプス結合を強め、互いに異なる状態にあるときはシナプス結合を弱めるという動作を行なうことで、個々のニューロンが自分自身の内部状態により結合を変化させるか判定を行ない、追加学習を行なう学習法である。 逐次学習法では、カオスニューロンの内部状態を示す外部入力項、 相互結合項、不応性項がある条件を満たす時に学習を行なう。 この学習法の特徴として学習条件が成立した時の結合荷重の変化量が少ないため 従来の相関学習に比べ結合荷重の取り得る値の数が多くなるという点がある。
そこで本研究では、逐次学習法を用いて学習を行なったネットワークの結合荷重に その取り得る値の数が少なくなるように量子化を加え学習成功数がどのようになるかを調べる。 この特徴を奪うことから学習能力がどうなるかを調べることにより、 その特徴を改良することで学習能力を高められると考えられる。
また、量子化条件を従来の相関学習で得られる結合荷重の 条件に近くした時の学習および結合荷重の分布についても調べる。