next up previous contents
Next: ニューロンとニューラルネットワーク Up: 無題 Previous: 目次

序論

人間の脳には100憶から1000億個もの神経細胞(ニューロン)があるといわれている. それぞれのニューロンはシナプスで結合されており,巨大なネットワークを形成している. ニューロン1個ずつは非常に簡単な機能しかもっていないにもかかわらず, 人間の脳における神経回路網は優れた情報処理能力を持っている. 人間は即座に人の顔を識別したり,目の前の情景を理解し適切な行動をとることが出来る. このように人間の脳は目や耳などから入力された信号を無意識のうちに 的確かつ迅速に情報処理することができる.

ニューラルネットは生物学から生じたものであり, 多くの素子によって構成されている. この素子は生物のニューロンの最も基本的な機能に良く似た働きをするものであり, 脳の解剖学的構造に類似するような方法で組織化されている.このようなニューラルネットは, 見かけ上の類似性によらず経験から学習を行なったり, 前例から新しいものに汎化したりと, 驚くほどたくさんの脳の特徴を示す. 現在では,ニューラルネットの能力は文字認識や画像圧縮などの様々な分野で実証されている.

ニューラルネットによるサーチアクセスでは, 記憶したものから,目的の記憶を探しだすことができる. サーチアクセスによってニューラルネットから記憶を取り出すときに, 動的想起と呼ばれる状態を利用する. 動的想起はニューラルネットの記憶を自由に想起し, この状態はしばしば人間が漠然と物事を思い出している状態に例えられる. サーチアクセスでは,この動的想起を使って記憶を取り出し, 取り出された記憶から目的の記憶を探し出す. つまり,動的想起はサーチアクセスにおいて記憶を取り出すという 非常に重要な役割をしている.

現在まで本研究室では,動的想起に関する研究を行ない様々な成果を出してきた. しかしそれらの研究は,相関学習法と呼ばれる学習方法を用いた結果であった. その後の研究で本研究室では相関学習法より, 学習できるパターンの数が非常に多い逐次学習法 という新たな学習法が提案された. また,逐次学習法で学習されたニューラルネットを用いて 動的想起を実現することに成功している. 逐次学習法は多くのパターンを記憶できるため, 多くの記憶を動的想起によって取り出せるのではないかと期待された. しかしながらこの動的想起よる想起パターン数は, 学習できるパターン数よりも非常に少ないという結果であった[1]. 山口は,想起時に入力にランダムな値を入力し, 想起パターン数を増やすことに成功した[2].

本研究では,入力を操作せずに想起できるパターン数を増やす方法を検討した. その方法として,ネットワーク自体を非同期で動作させ, 想起できるパターン数の改善を試みた. シミューレーションによって, 同期のニューラルネットや, 動作素子の決定方法が異なるいくつかの非同期ニューラルネットによる 動的想起時の想起パターン数の違いを調べ, 非同期の動作素子の決定方法によっては, 想起できるパターン数を増やすことができることを確認した. また,動的想起の状態を評価することができるパタメータを用いて, それらの想起状態について評価した.

最後に,想起できるパターンが増えた理由が, 学習過程の非同期化によるものなのか, 動的想起時の非同期化によるものなのかを調べるため, 学習結果の結合荷重の入れ替えの実験を行った. その結果によって, 想起できるパターン数が増えた理由は, 動的想起時にニューラルネットが非同期で動いているためと結論づけた.



Deguchi Lab.