next up previous contents
Next: 参考文献 Up: 無題 Previous: セット数を減らす

結論

二つのニューロン間の結合荷重が非対称となる学習法である逐次学習法を用いて カオスニューラルネットネットワークに学習を行なうとホップフィールドネットなど 従来の対称の結合を持つネットワークに比べ、 学習効率が良いことが過去の研究からわかっている。 そこで、本研究では逐次学習法によって カオスニューラルネットワークに結合荷重を対称に変える処理を加えつつ学習を行ない、 非対称であることによる学習への影響を調べた。

結合荷重を対称にする処理には、二つのニューロンの結合荷重を平均し 付け替える処理、二つのニューロンの結合荷重の絶対値の大きい方に付け替える処理、 二つのニューロンの結合荷重の絶対値の小さい方に付け替える処理を用いた。 また、処理を加えるタイミングはすべてのセット学習が終った後、 1セット学習が終った後、一文字の学習が終った後に分け、 それぞれ処理を行なった。

始めに、26個のアルファベットの大文字パターンをネットワークに 学習を行なったところ、1セットごとに結合荷重を平均するネットワーク、 1セットごとに絶対値の大きい方にするネットワーク、 一文字ごとに平均するネットワークがすべてのパターンを学習できた。 特に、一文字学習するごとに平均したネットワークは、 非対称時よりも優れた学習を見せた。 また、すべてのパターンは学習できなかったものの、 1セットごとに絶対値の小さいものにするネットワーク、 すべてのセットが終った後に処理を加えたネットワークは 対称結合を持つネットワークであるホップフィールドネットに比べ 学習効率は良かった。 この段階で、処理による学習の差は出たものの、 非対称結合を持つネットワークの利点が 対称結合を持つネットワークに比べて見られなかった。 そこで、学習パターンを増やして学習を行なったところ、 26文字学習させた時に比べ学習効率が下がったネットワークが多かった。 しかし、一文字ごとに結合荷重を平均し付け替えたネットワークは 非対称時とほぼ同じ学習能力を持っていた。 つまりネットワークの学習能力の差は結合荷重を対称にする処理による差だと思われる。

また、セット数が少ないときは非対称時よりも対称時の方が学習が良くなっていた。 残念ながらその理由は発見できなかったが、おそらく対称化によりネットワークのエネルギーの振動がなくなり収束しやすくなったからだと予想できる。

逐次学習法と一文字学習するごとに二つのニューロン間の結合荷重を平均し付け替えたネットワークと、非対称な結合荷重をもつネットワークはほぼ同じ能力を持っていた。 また、同じ処理をしても、1セット終了後、すべてのセットが終了後と処理回数が 減るにつれ、学習能力が悪いことがわかる。 このことから逐次学習法の学習能力の良さは、非対称な結合荷重によってもたらされるのではなく少しずつ結合荷重を変化させることで学習することにあるのではないかと思われる。 また、同じ能力であればネットワークが必ず収束する分、 結合荷重を対称化する処理を学習に用いる方が有用といえる。

謝辞

最後に本研究を進めるに当たり、一年間を通して多大な御指導を賜わりました出口利憲先生に深く感謝するとともに、同研究室において助言をいただいた専攻科の高木潤氏、岩佐要氏、酒井哲平氏、また、同研究室においてともに学んだ辻啓介氏、加藤智也氏に厚く御礼を申し上げます。



Toshinori DEGUCHI
2003年 4月23日 水曜日 17時51分42秒 JST