next up previous contents
: 参考文献 : matsuno : 実験2の結果   目次

結論

本研究におけるネットワークの学習には個々のニューロンが自身の内部状態により結合荷重を変化させるかどうかを判断し追加学習を行なう逐次学習法を用いた。 その時の結合荷重の変化量$\Delta w$は具体的な値が定められておらず、過去の研究ではほとんど追求されていなかった。 しかし、逐次学習法における結合荷重の変化量$\Delta w$は学習に対する重要なパラメータの一つであることは明らかである。 本研究では様々な素子数から構成されるカオスニューラルネットワークにおいて、この$\Delta w$の適切な値を模索するとともに、ネットワークを構成する素子数にどのような関係があるのかを調べた。 また、学習回数と学習セット回数という$\Delta w$が直接関するパラメータの変化に対する$\Delta w$の振舞いを確かめた。

はじめに、50, 100, 200, 300, 400素子からなるネットワークにおいて学習を行なった。 その結果、最大完全学習数は素子数が大きくなるにつれて増加するが、適切な$\Delta w$の値は減少し、用いる事ができる値の幅も狭くなる事が確認できた。 これは相互結合型ネットワークにおいて素子数が増えるということは、一つのニューロンに入力される他のニューロンの数が増えるという事になる。 そのため$\Delta w$の値を小さくする事でバランスをとりやすくなった、つまり学習しやすくなったと考えられる。 次に学習回数と学習セット回数をそれぞれ増加させ$\Delta w$を先ほど同様に0から0.1まで変化させる事で学習したパターン数にどのような影響があるかを調べた。 その結果学習回数を2倍に増加させたところ、最大完全学習数に多少の増加が確認できた。 また、その時の$\Delta w$は学習回数を増やす前の時に比べほぼ半分の値となっていた。 これは先の実験におけるバランスが関係しており、値の小さい方がバランスをとる回数が増える場合においては扱いやすいと考えられる。 一方学習セット回数を増やした場合、学習したパターン数に大きな変化は見られず$\Delta w$との関連性は低い事がわかった。 学習セット回数は学習回数とは違い全てのパターンを学習することの繰り返しの回数なので、1つのパターンを学習するという点に影響力を持たなかったと考えられる。

以上の結果より、$\Delta w$が学習に影響を大きく与える事が確認できた。 ネットワークを構成する素子数を増加させて学習させるパターン数や最大完全学習数を増やす時には、$\Delta w$の値の設定は慎重に行なう必要がある。 また、素子数に対応する適切な$\Delta w$の存在が確認できたため、できる限りその値を用いる事が効率良く学習を行なわせるためには大切であるといえるだろう。 過去の研究ではほとんどが素子数50前後のネットワークで行なわれていたため、0.025, 0.5という値を用いてもそれほど大きな影響はないため適当であったといえるだろう。 学習回数については学習したパターン数の増加は認められるが増加量が顕著ではなく、学習にかかる時間との関係を模索する必要がある。

謝辞

最後に、本研究を進めるに当たり、多大な御指導を賜わりました出口利憲先生に深く感謝するとともに、 同研究室にて助言をいただいた専攻科の家入悠至氏、共に学んだ日比智也氏、若山雅史氏に厚く御礼申し上げます。



Deguchi Lab. 平成20年3月5日