next up previous contents
Next: 6.4 学習定数の変化による誤差の変化 Up: 第6章 実験 Previous: 6.2 普通のニューロンで実行する

6.3 入力層の素子数を2個にする

先の実験から、過去10音も入力するとそれだけで出力を決めることができ、 普通のニューラルネットでもできることが証明されたので、 入力の数を減らせばカオスニューラルネットの利点が生かせられると考えられる。 それは、過去1音だけで次の音を予想することは、どんなに短い曲でも、 同じ音符があると、普通のニューラルネットでは絶対に不可能だからである。 なぜなら普通のニューラルネットは同じ入力から違う出力ができないからである。

そこで入力層の素子数を2個にし、過去1音から次の音を出力できるかを実験する。 このときのカオスニューラルネットワークを図(6.4)に示す。

   figure312
図 6.4: 入力層の素子数が2個のニューラルネット

前述の2つの実験は学習定数を適当に決めて行なったが、 この実験では、学習定数による性能の差が大きく現れると予想されるので、 まず、学習定数のバランスによる誤差の大きさの違いを測定し、 1番結果の良いバランスでこれからの実験を行なうことにする。

   figure317
図 6.5: 学習定数のバランスによる誤差の大きさの違い

20万回学習させた結果を図(6.5)に示す。 このグラフ中のa,b,cはそれぞれ結合荷重の学習定数、 結合荷重の学習の加速項の学習定数、カオスニューロン固有のパラメータの学習定数 である。これは左から大きい順にならんでいる。 このグラフからわかるように、大小関係がa,c,bの時が一番誤差が減少している。

もう一つ、図(6.5)からわかることがある。 それは学習回数が10万回を過ぎたあたりから振動しているということである。 振動は学習定数が大きいと起こるものなので10万回学習したら、 学習定数を小さくすると良いと考えられる。



Deguchi Toshinori
1999年03月23日 (火) 15時43分49秒 JST