とノイズの数の変化による学習成功数の変化
実験では、最初に指定した個数のノイズをパターンにのせ、
それぞれのパターンをA〜Zまで順番に50回ずつ学習させる
(ノイズをのせる場所はランダムで、一回ごとに変わる)。
そして、学習が成功していたかどうかは、ホップフィールドネットを用いて
想起させて、それが正しいパターンと同じであれば学習は成功したということになる。
このときA〜Zまでの全てを学習していれば成功数は26となる。
以上の操作を1セットとして、これを20セット行ない、
その後に を変化させ、変化させるごとに学習、想起を行なう。
を変化させると書いたが、その変化の範囲について考える。
そのため、ノイズの数を0個、 を0〜100まで変化させて実験を行なった。
この実験の結果を図 5.1に示す。
このグラフより、 の値が2程度の値だと学習成功数が多いことが
わかる。
もしかして が100以上の値において、学習成功数が
0個よりも大きい場合があるのではないかと考え、
1000まで変化させてみたが、学習が成功することはなかった。
この結果を参考にして、学習成功数の
減っていく様子も観察するため、 を0〜10として実験を
行なった。
ノイズの数を0,5,10個と変えた時のそれぞれの学習成功数の
違いについてグラフ図 5.2に示す。
この図は を0.1きざみで0から10まで変化させて実験を行なっている。
横軸が の値で、縦軸が学習成功数である、実験に使ったパターンは
26通りなので、学習成功数が26であれば全てが想起できたということになる。
この図からまずわかることは、
ノイズの数が増えるごとに学習成功数は減っていくことである。
これはノイズが増えれば学習するパターンと想起させたい
パターンが違ってくるので当然のことである。
実験では、パターンにのせるノイズの数の最大数を10個とした。
全てのドットの数が49個で、ノイズを10個入れたら、
約 
が間違っていることになる。
この時点ですでに学習させるパターンと想起させるパターンはかなり
違ってきている。
これ以上いれたとしたら、学習させるためのパターンと想起させる
ためのパターンが全く違うものになってしまう。
これでは研究の意味がないため、10個までとした。
もう一つの理由は、ノイズの数を10個としたときに、
この図において26通り全てを想起することが
できなくなっていることである。
これ以上ノイズの数を増やしても学習成功数が減っていくことは
すでにわかっているため本実験では必要ないと判断したのである。
また、 の値は小さすぎても大きすぎてもだめなこともわかる。
本研究室のこれまでの研究から、 は2.0付近が一番学習成功数が
多いという結果が出ている。
そのため、 を定数として扱う時には2.0を代入していたが、
ノイズが10個のときにおいて、 を2.0にするよりも1.5付近の値を
用いた方が学習成功数が多いことがわかった。
ここで、図 5.2では原点付近の立ち上がり部分の
変化の様子が良くわからないため、0,5,10個それぞれの
ノイズの個数について、 を0〜0.5まで、0.001ずつ変化させた
時の学習成功数の変化を調べた。
ノイズ0個の場合を図 5.3に、
ノイズ5個の場合を図 5.4に、
ノイズ10個の場合を図 5.5に示す。
全ての図で線が直線ではないが、これはカオスニューラルネットワークは
4.1節で書いたように不応性の項の係数である
により学習の効率が変わるため、前の の値では学習が成功していても、
次の の値では学習が成功しないことがあるためである。
ここでよくわかるのは、 の値が0の場合に、ノイズの数が0であっても
想起できるパターン数は0であるということである。
また、ノイズの数が増えると学習成功数が減っていくので、
ノイズの数が増えるにつれて立ち上がり部分の角度は下がっていく。
