next up previous contents
Next: ニューラルネットワーク Up: 無題 Previous: 目次

序論

動物の、特に人間の脳は、非常に高い情報処理能力を有しており、脳には様々の機能が認められる。古くから脳の働き(の一部)の模倣に関する研究が行われ、それらの研究は応用され、実用に供している。「それらの研究」には、脳の神経細胞(ニューロン)により構成されるネットワークを模倣することで、脳の学習・記憶などの機能を実現するニューラルネットワークに関する研究が含まれ、ニューラルネットワークは文字認識などに応用されている。

ニューラルネットワークを構成するニューロンは、実際のニューロンの示す性質・現象のうちの全てをではなく、一部をモデル化している。中でも特に長く、広く研究されてきたニューロンモデルとして、1943年にマカロックとピッツにより発表されたモデルがある。マカロック・ピッツのモデルは非常に単純なモデルである、つまり、実際のニューロンの示す性質・現象のうちの、学習・記憶の実現に特に大きく影響していると考えられる極一部の機能のみをモデル化したものであるが、(それにもかかわらず、あるいは、それゆえに)学習・記憶を高度に実現した。

このマカロック・ピッツのモデルをより実際のニューロンに近付けることで、学習・記憶の機能の改善を目指したモデルに、カオスニューロンモデルがある。これは、実際のニューロンに認められるカオス的な応答をモデルに取り入れている。具体的には、ニューロンの示す不応性(ニューロンが発火した直後、しばらく発火し難くなるという性質)をモデルに取り入れ、さらに、マカロック・ピッツのモデルが採用した「全か無の法則」(ニューロンの出力は発火している(1)か、発火していない(0)かの2値をしか取り得ない、すなわち、出力は離散的である、という規則)を排し、ニューロンの出力を連続的にすることで、カオス的な応答を示すニューロンモデル(カオスニューロン)を実現した。

カオスニューロンにより構成されるネットワーク(カオスニューラルネットワーク)には動的想起という現象が認められる。これは、いくつかのパターンを学習させたカオスニューラルネットワークを、外部からの入力を与えずに動作させ続けると、学習させたパターンのいくつかが不規則に出力される(想起される)、という現象である。動的想起が起こり得るのは、カオスニューロンに取り入れた不応性の働きによる。

動的想起を利用した技術に、サーチアクセスがある。サーチアクセスでは、検索したいパターンそのものが判然とせず、パターンの特徴をしか知らないとき、動的想起により想起されていくパターンの特徴と比較することで検索したいパターンを求める。そのため、サーチアクセスでは、学習したパターンはより多く(理想的には全て)、より短い周期で想起されることが望ましい。カオスニューラルネットワークには未だに不分明な性質が多くあり、そのような性質を明らかにしていくことはサーチアクセスの機能改善にとっても有用である。特に、学習したパターンがより多く想起されるような条件を見つけることはサーチアクセスの改善に直結する。

ところで、過去の研究により、カオスニューラルネットワークの学習し得るパターンの数(記憶容量)が、ネットワークを構成するニューロンの数(素子数)に比例することが明らかにされた。そこで、本研究では、動的想起により想起されるパターンの数もまたネットワークの素子数に比例する、という予想に立って、想起されるパターン数と素子数との関係を実験により調べた。また、この実験の結果より、学習時の結合荷重の変化量を小さくすることが、想起されるパターン数の増加を結果すると予想されたため、さらに、結合荷重の変化量と想起されるパターン数との関係についての実験も行なった。



Deguchi Lab.