next up previous contents
Next: 第2章 ニューロンとニューラルネットワーク Up: 無題 Previous: 目次

第1章 序論

ニューラルネットワークは、

「人間の神経系を模倣した装置を構成すれば、人間と同様な情報処理が 実現できるに違いない」

という期待から、研究されている。 なぜ人間と同様な情報処理をコンピュータにさせようとしているかというと、 従来のフォン・ノイマン型と呼ばれる、プログラムに沿って情報処理を 行なうコンピュータが苦手とする処理を得意とするからである。 プログラムにそって情報処理を行なうということは、 プログラムされていなければどんな単純で簡単なことでも処理はできないのである。 しかし、ニューラルネットワークを用いれば、初めての処理であっても、 なんらかの答を導くことができるのである。 当然ここでは間違うということもあるが、 これは、音声認識や文字認識のような曖昧な条件がからんでくる場合に 非常に有効である。

本研究では、人間の神経系を模倣するために 神経細胞をモデル化したニューロンを用いる。 このニューロンは、他のニューロンからシナプス結合により信号を受けると、 それらを合計し、自らのしきい値と比較する。 このとき、ニューロン同士はそれぞれ結合の強さが異なっていて、 信号を受けた場合、その結合の強さに応じた刺激をうける。 入力信号としきい値を比較して、信号の合計がしきい値を越えた場合、 ニューロンは発火する。 発火した時には1、発火しない時には0を出力する。 この考え方はマッカロとピッツ(W.S.McCulloch, W.pitts)が 提案したものの応用である。

本研究ではニューロンに、カオスの考え方を加えた カオスニューロンと呼ばれるものを用いている。 何が加えられているかというと、

というものである。 このカオスニューロンを組み合わせて構成したのが、 カオスニューラルネットワークである。

カオスニューラルネットワークの学習法として、逐次学習法を用いた。 この逐次学習法は、個々のニューロンが自分自身の内部状態によって、 結合荷重を変化させるかどうか判断し、追加学習を行なっていく 学習法である。 逐次学習法はカオスニューロンの内部状態を示す、 外部入力項、相互結合項、不応性項について、 相互結合の項と外部入力の項の符合が異なる場合に、 結合荷重を変化させる。 これにより学習が行なわれる。 また、不応性の項は、より強く学習をおこない、忘れにくくするために 用いる。 この学習法は、互いのニューロンが同じ状態(両者が興奮状態か非興奮状態) のときには両者の間のシナプス結合を強くして、 違う状態(片方が興奮状態、片方が非興奮状態)の 場合にはシナプス結合を弱くするという考え方に基づいている。 これは1949年にヘッブ(D.O.Hebb)により提案された理論を応用したものである。

1980年代に、アメリカの物理学者ホップフィールド(J.J.Hopfield) が神経回路網のダイナミクスを研究し、いわゆるホップフィールドの モデルを提案した。 彼は、神経細胞の発火のアルゴリズムと結合係数の組が決められた神経回路網に、 適当に与えられた興奮パターンが安定には存在しえず変化していく時、 それにつれて必ず減少していくエネルギー関数が定義でき、 その関数の極小値に達する時パターンは安定になるという 神経回路網のダイナミクスを示した。この極小値に対応する パターンを記憶パターンとすれば、このシステムは適当な 刺激パターンから、記憶パターンを想起する連想記憶装置となる。

ホップフィールドのモデルと逐次学習法は、 学習し、想起するという動作は同じであるが、 学習と想起の関係が違っている。 ホップフィールドのモデルはあらかじめ学習させたいパターンをネットワークに 与えて結合荷重を変化させる。 そして想起させる場合には、その結合荷重を用いて想起を行なう。 つまり、学習を行なう過程と想起を行なう過程が別になっているのである。 また、ホップフィールドのモデルでは常に全てのニューロンが学習を 行なうが、逐次学習法では学習の条件を満たした ニューロンしか学習を行なわない。 これにより、従来は互いのニューロンの間で結合荷重が同じであったが、 逐次学習法では、それぞれで異なる。

本研究では、逐次学習法を用いたカオスニューラルネットワークについて 不応性の項の係数である tex2html_wrap_inline1002 と パターンにのせるノイズの個数を変化させ(ノイズをのせる場所はランダムで、 毎回変わる) 学習成功数を調べる。

学習させるためのパターンにノイズをのせてもカオスニューラルネットは 学習できることはすでにわかっている。 本研究では、学習の効率を変化させる不応性の項の係数である tex2html_wrap_inline1002 という パラメータを変化させることによりノイズをのせたパターンの学習が 成功するのか失敗するのか、またそれはどれぐらいであるのか 調べることが目的である。



Deguchi Toshinori
Wed May 15 13:12:15 JST 2002