next up previous contents
Next: 参考文献 Up: takahashi_ad2 Previous: 実験4:時間加算係数と学習定数の値の模索   目次

結論

本研究では、逐次学習法において、時間加算項の値が学習に様々な影響を与える事が分かった。 各実験で明らかになった事について以下にまとめる。

実験1では、時間加算項の有無によって学習にどのような影響があるかを調べた。 結果、時間加算項有りより無しの方がパターンの切り替えが早い事が分かった。 時間加算項有りでパターンの変更に時間がかかったのは、時間加算項の影響で前のパターンが内部状態に残っているため次のパターンに移行するのに時間がかかってしまった為だと考えられる。 前のパターンの値が薄れていき外部入力の符号が変化した時、学習が始まり相互結合の値が変化していく。 逆に時間加算項無しの場合は、パターンが切り替わってすぐに外部入力の項が入力された値になる為、学習を始めるのが早い。 また、時間加算項有りの場合では入力回数の後半でも学習がたまに行われているが、時間加算項無しでは最初の数回の入力以降学習は行われていない。 内部状態を調べたところ、時間加算がない場合、不応性の項は新しいパターンを入力した時だけ変化しそれ以降は一定であった。 つまり時間加算項無しでは、学習を行い相互結合の項が不応性の項の値を超える結合加重に変化した時、それ以降学習は行われない。 一方、時間加算項有りでは、何度か入力した後でも不応性の項が相互結合の項の値を超える事がある。 これは不応性の時間加算係数は相互結合の時間加算係数より大きいからである。 そのため時間加算項ありの場合は後半でも少し学習が行われていたと考えられる。

実験1の結果から実験2では時間加算項の有無でパターン入力回数と学習成功パターン数の関係を調べ、パターンの入力回数をどの程度まで短縮する事が出来るかを求めた。 その結果、パターン数が100の時は、時間加算項有りの場合は約20回、時間加算項無しの場合は約5回まで短縮できた。 また、パターン数が162の時は、時間加算項有りで90回程度まで短縮できたが、時間加算項なしは学習成功パターン数が50で頭打ちしてしまった。 しかし、$ \Delta w$ のパラメータを変更すると時間加算項なしのネットワークも同程度の最大完全学習数を得る事が出来た。 最終的に、時間加算項有りの場合は約90回、時間加算項無しの場合は約50回まで短縮でき、どちらも時間加算項無しの方が短縮できる事が分かった。

実験3では時間加算項の有無での雑音の影響を調べた。 時間加算項有りの場合は、時間加算により平滑化されるため雑音が増えても、学習成功パターン数はあまり減少しなかった。 しかし、時間加算項なしの場合は、雑音が少しでもあると、学習成功パターン数は大きく減少していた。 雑音が1つでも乗ると半分まで学習成功パターンが減少するため雑音が乗っている場合は使用できないと考えられる。

最後の実験4では時間加算係数$ k_s$ $ k_m$ $ k_r$ と結合加重$ \Delta w$ の値を模索をする事にした。 その結果、時間加算項有りと無しで、中間の特性を示したパラメータを発見した。 このパラメータを中間のパラメータと呼ぶ。 中間のパラメータは、パターン入力回数について、時間加算項有り、無しのどちらよりも早く学習成功パターン数の最大値に到達しているが、最大値はどちらよりも少なくなっていた。 また雑音に関しては、時間加算項有りよりは少し影響を受けていたが、時間加算項無しよりは影響を受けない事が分かった。 この結果から、結合加重$ \Delta w$ の値は大きいとパターン入力回数を短縮できるが、大きすぎると最大完全学習数を減少させてしまう事と、時間加算係数は小さいとパターン入力回数を短縮できる事が分かった。 $ \Delta w$ が大きすぎると最大完全学習数が少なくなってしまうのは、細かな調整が出来なくなるためだと考えられる。 したがって、途中まで$ \Delta w$ を大きい値で学習を行い、後半は$ \Delta w$ の値を小さくする事で、より学習を短縮できると考えられる。 これは今後の課題である。



Deguchi Lab. 2015年3月4日