next up previous contents
Next: 5.3.2 繰り返し回数による特性 Up: 5.3 使用パターン Previous: 5.3 使用パターン

5.3.1 学習個数による特性

 

学習個数による特性をとるということなので、繰り返し回数と学習回数をそれぞれ10回、100回とした。すなわち一つのパターンにつき1000回学習させた。この実験では、学習させる数を増やした時に学習成功個数がどのように変化するかを調べた。そのときのグラフを図5.3から図5.9に示す。横軸は学習させようとした個数で、縦軸は実際に学習出来た個数を示している。特性をとるにあたり、ばらつきが出ることが予想されたことと、偏りや類似性をなくすため、乱数の種をいくつか変えて実験した。図5.6に黒い部分が25個の時の特性を示しているが、この場合、黒と白がほぼ同じ数になるので最も平均的であると思われるので10種類(AtypeからJtype)の乱数の種に対する値をとってある。他の場合は5種類(AtypeからEtype)の乱数の種に対する値をとってある。

   figure299
図 5.3: 黒10個のときのグラフ

   figure306
図 5.4: 黒15個のときのグラフ

   figure313
図 5.5: 黒20個のときのグラフ

   figure320
図 5.6: 黒25個のときのグラフ

   figure327
図 5.7: 黒30個のときのグラフ

   figure334
図 5.8: 黒35個のときのグラフ

   figure341
図 5.9: 黒40個のときのグラフ

   figure348
図 5.10: 拡大図

これらの結果から、それぞれ多少のばらつきが見られるがどのグラフも同じような特性をしていることが分かる。ネットワークのニューロンの数により学習成功個数に限界があることが分かっているので、実験前の予想では、学習結果として学習成功個数はある値まで上昇した後、そのまま一定値に飽和するであろうと予測していたのに対し、それぞれのパターンに共通していえることとして、学習個数がある値を越えると学習成功個数が、がくっと低下しているのがわかる。これはネットワークに限界値を越える数を学習させると越えた分だけでなく、ネットワーク全体の学習能力が低下するという特性だといえる。原因として考えられるのは、学習個数が増えるとどこかに似ている部分を持ったパターンが出てくる可能性が高くなる。するとネットワークはすでに学習した似ている部分を持ったパターンに収束しようとする。繰り返すたびにその動作をする。そのため最終的にはいくつかの代表的なパターンに収束していき、学習個数が低下しているのではないかと考えられる。そのため最後はどれも約10個程に収束しているのだといえる。それぞれのパターンの平均値をとり、収束の様子を見やすくするためにその拡大図を図5.10に示した。ここで代表的なパターンが安定して存在するためにこれ以上学習成功個数は変化しなくなる。これにより学習個数がどれだけ増えてもほぼ必ず学習できる数があることが分かる。これら特性から分かることとして、高効率な学習をさせるためには、ネットワークにある限界値を越えないように、ある程度までの入力数にとどめておくことが、有効な手段であるといえる。



Deguchi Toshinori
Thu Jul 13 13:13:35 JST 2000