next up previous contents
Next: 第2章 ニューロンとニューラルネットワーク Up: 無題 Previous: 目次

第1章 序論

人間の脳が持つ記憶・学習能力は、 現在の計算機でももっていない優れた処理能力であり、 そのメカニズムを解明することは大きな研究課題である。 その脳の構成を擬似的にコンピュータに用いた研究としてニューラルネットワークがあり、 近年の計算機の発達とともに発展途上ではあるが、 ようやく実用的になるまでに至った。

このニューラルネットワークとは、 脳の神経細胞をモデル化したニューロンを 基本構成素子とした神経回路網のことである。 その起源は1943年に発表された McCulloch と Pitts の神経回路網理論にさかのぼる。 彼らはニューロンの機能や動作について簡単なモデルを示し、 いくつかのニューロンを結合させたネットワークによって簡単な論理演算が出来ることを示した。 その処理能力は実際の脳の動作には遠く及ばないものの、実用的なモデルを示したことは大きな成果であった。

1949年には Hebb により、ニューロンの情報入力部分にあるシナプス結合において、 その結合強度がニューロンの興奮によって強まるという変化則を示し、 その結合強度の強弱こそが脳内における情報の分散的な記憶の本質であると提案した。

現在のニューラルネットワークの基本原理ともいえるこれら2つの提案を受けて、 1958年 Rosenblatt により具体的なパターン識別システムである Perseptron が提案された。 それ以後は、その基本的な能力やその応用など、 Perseptron に関する様々な研究が行なわれた。

一時期、1969年に Minsky と Papert らにより単純パーセプトロンの能力の限界を厳しく評価されたためにそれらの研究は停滞したが、 1986年には Rumelhart によって誤差逆伝搬法(バックプロパゲーション)という多層パーセプトロンにおける学習アルゴリズムが発表され、 その後は再び盛んな研究が行なわれるようになり現在もなお続いている。

これと並行して、 1982年には Hopfield が相互結合型のネットワークモデルを用いて連想記憶などへの応用を提案し、 Perseptron とともに研究が進められた [1]。

一方、生体としての神経細胞の研究も進んでおり、 不応性など実際のニューロンが示す反応を採り入れたニューロンモデルも提案された。 それは、1961年の Caianiello のモデルに端を発している。 その後、 1970年代頃には実際の神経細胞がカオス的反応を示すことが認められるようになり、 1990年には合原らがカオスニューロンモデルを発表した。 そのカオスのもつ独特の反応が脳の動作により近くなるとして期待された [2, 4]。

当研究室では従来のニューラルネットワークに音符を入力すると次の音を予想して出力し、 その出力を次の入力として用いて次の音を出力させることの繰り返しによって曲を出力できるように学習させるという研究を行なった。 以前は音を出力させるための入力として過去10音を用いたが、 これを用いると同じフレーズの繰り返しとなる曲を学習させることができなかった。 そこで、 本研究の目的は入力にランダムな値を持つ層のある3層ニューラルネットワークをバックプロパゲーション学習則を適用し、 同じフレーズが繰り返される曲も学習させることである。 またカオスニューラルネットワークにその学習に用いた結合荷重を用い、 カオスニューロンのパラメータを調節して曲のアレンジを試みる。



Deguchi Toshinori
Wed Feb 21 11:55:53 JST 2001