next up previous contents
Next: ニューロンとニューラルネットワーク Up: myamada Previous: 目次   目次

序論[1]

本研究では,カオスニューラルネットワークにおける逐次学習法についての研究を行う。カオスニューラルネットワークとは,ニューラルネットワークにカオス理論を組み入れたモデルであり,逐次学習法とはその学習方法のひとつである。ニューラルネットワークはAI(Artificial Intelligence;人工知能)研究の一環として発展してきた分野であり,近年のブレークスルーやAI技術への期待の高まりとともに,現在注目されている研究のひとつである。

AIの研究が始まったのはわずか60年前の1950年代である。そこでは様々なアプローチが取られたが,中には人間の脳を模倣するというものがあった。つまり,人間の脳の構造やその情報処理の仕方を真似ることでAIを実現しようと考えたのである。人間の脳は,無数のニューロン(神経細胞)が複雑に結合し合いネットワークを形成している。これをもとに,コンピュータ上にニューロンのモデルを作り出しそれらを結びつけることで,擬似的な脳を再現する。このようなアプローチはニューラルネットワークと呼ばれ,その後もAI研究で重要な位置を占めながら発展していく。

ニューラルネットワークは,これまでに多種多様な派生型が考案され,今現在も極めてホットな研究分野となっている。例えば,近年のブレークスルーとされるディープラーニングという手法は,画像認識において既に人間と同等あるいはそれ以上の能力を示している。これは驚くべきことで,単なるコンピュータ上のモデルにすぎないものが,人間と同レベルの認識能力を有していることになるからである。本研究が対象とするカオスニューロンによるカオスニューラルネットワークも,ニューラルネットワークの派生型の一種である。

さて,これから扱っていくカオスニューロンというのは,通常のニューロンモデルにカオス要素を取り入れたものである。カオスは無秩序,つまり秩序立っていないことを意味する。この世界のシステムは,現実には,完全に秩序立った線形的なものではない。いくつもの要素が入り乱れることで,混沌のように非線形的である。すると人間はもちろん,人間の脳にもカオス的な非線形要素が含まれていて然るべきである。したがって,従来のニューロンモデルにカオスを取り入れることで,より現実的な脳の再現に近づくのではないかと考案されたのが,カオスニューロンモデル・カオスニューラルネットワークである。

本研究の目的は,カオスニューロンによるネットワークの振る舞いを調べ,その学習能力を向上させることにある。ここでは,学習方法に逐次学習という方法を用い,その場合のパラメータ$\Delta w$に着目することで目標達成を試みる。このパラメータは,追加で学習が必要になったときに,どのくらい結合荷重値を変更するのかを表す。この値が大きければ,一度に大きく学習できるので学習は早く進む。しかし,微調整ができないという欠点もある。逆に値が小さいときは,その反対である。これをうまく調整することで,学習能力の向上を図る。

今回の研究では,$\Delta w$の値を学習中に変化させる方法を提案する。過去の研究は,常に学習の間中一定の値を用いていた。しかしそうではなく,値を変化させてもよいのではないかという提案[2]があった。すなわち,学習の初めの段階ではとにかく学習を早く進めることが望ましいため,$\Delta w$は大きい方がよい。一方学習の後半は細かい調整が必要になってくるため,$\Delta w$は小さい方がよい。このように学習中に$\Delta w$を変化させることで,よりよい学習能力が得られることが期待される。

本研究では,提案手法の効果を検証するためのいくつかの実験と,その考察を行っている。その結果,$\Delta w$の変化によってネットワークの振る舞いがどのように変わるのかがわかり,さらに,過去のものよりも良い学習結果が得られた。実際に,$\Delta w$を学習中一定にしておくよりも,必要に応じて変化をさせたほうが,学習能力は向上することがわかった。



Deguchi Lab. 2016年3月1日