実験2:入力回数の変更による学習の影響

実験1より時間加算項無しは数回の入力で学習を終える事が出来た。 そのため、次はどの程度までパターン入力回数を短縮できるかを調べる事にした。 具体的には、パターンの入力回数を変更し、どの程度のパターン入力回数で完全学習出来るかを検証する。 実験2の結果を図4.6に示す。 図4.6は横軸でパターン入力回数を示し、縦軸で学習成功パターン数を示している。 時間加算項有りのグラフは、20回程度まで入力しなければ最大完全学習数に到達しないのに対して、時間加算項なしのグラフは3回程度の入力で最大完全学習数に到達している。 この結果から、時間加算項有りは２０回程度、時間加算項無しは３回程度までパターン入力回数を短縮できる事が分かった。

次に、前年度の研究で時間加算項ありの最大完全学習数162だと分かっていた為、入力パターン数を162回として実験を行った。 この実験により、入力パターン数が変更される事による、学習への影響を調べる。 時間加算項ありの場合は、パターン入力回数が90回程度で162パターンの学習が成功している。 一方、時間加算項なしの場合は学習成功パターン数が50付近までしか上昇しなかった。 この様子を図4.7に示す。 時間加算項無しの学習成功パターン数を増やすため、パラメータを少し変更していった。 すると、時間加算項なしのネットワークも162に近い値まで学習成功パターン数をのばす事が出来た。 しかし、162に近い値に到達するまで、パターン入力回数が5０回程度と、少し多くなっていた。 この様子を図4.8に示す。 変更点は $\Delta w=0.3\times 10^{-5}$ を $\Delta w=0.3\times 10^{-6}$ とした事である。 $\Delta w$ は結合加重の変化量を示す。 この値が大きすぎると、何度かパターンを入力した場合始めの方のパターンを忘れてしまう。 しかし、この値が小さいと 学習がなかなか終わらない。 時間加算項無しのネットワークは時間加算がなくなった事により、不応性に対し相対的に$\Delta w$ の与える影響が大きくなった。 そのため、162のパターンを学習しようとしたとき幾つかのパターンの記憶が失われたためだと考えられる。 そして、$\Delta w$ の値を小さくした事により、学習回数は多くなるが、162に近い値まで学習する事が出来た。

これらの結果から、時間加算項あり、時間加算項なしで、同程度の最大完全学習数を得ている事が分かる。 このため、時間加算項あり、時間加算項なしの場合それぞれに、適したパラメータが存在し、最大完全学習数に優劣がないと言える。

図 4.6: 入力回数の変更(パターン数：100)
図 4.7: 入力回数の変更(パターン数：162)
図 4.8: 入力回数の変更(パターン数：162, 時間加算項無しの$\Delta w$ 変更後)

入力パターン数が100の時、時間加算項有りは20回程度、時間加算項無しは３回程度に短縮でき、入力パターン数が162の時は、時間加算項有りは90回程度、時間加算項無しは50回程度まで短縮できる事が分かった。