next up previous contents
Next: 内部記憶を持つニューラルネットワークの学習 Up: フィードバックのあるニューラルネットワークの学習 Previous: 実験概要   目次

実験結果・考察

各それぞれの波形について横軸をフィードバック数、縦軸を平均誤差で示したものを図 5.1(a)$\sim$(d)、 横軸は同様で縦軸に最大誤差を示したものを図 5.2(a)$\sim$(d)で示す。

図 5.1: フィードバック数ー平均誤差特性
\includegraphics[scale=0.6]{experiment1_1.eps}

(a)正弦波

\includegraphics[scale=0.6]{experiment1_2.eps}

(b)三角波

\includegraphics[scale=0.6]{experiment1_3.eps}

(c)方形波

\includegraphics[scale=0.6]{experiment1_4.eps}

(d)鋸波

図 5.2: フィードバック数ー最大誤差特性
\includegraphics[scale=0.6]{experiment2_1.eps}

(a)正弦波

\includegraphics[scale=0.6]{experiment2_2.eps}

(b)三角波

\includegraphics[scale=0.6]{experiment2_3.eps}

(c)方形波

\includegraphics[scale=0.6]{experiment2_4.eps}

(d)鋸波

この図より、フィードバック数が大きくなると、最大誤差も小さくなるという事がわかる。 学習回数が大きいとき、全ての波形において同様の傾向が確認できる。 最大誤差に関して触れると、最大誤差とは 今回の実験では統計学でいう分散に近い指標を持つ数値であるとし、 最大誤差と平均誤差と比べたときに最大誤差と平均誤差の値が離れていたら分散の値が大きい、 逆に最大誤差と平均誤差の値の差が小さいときは、分散の値が小さいといえる。 今回の実験のケースでいうと、すべてに関して最大誤差と平均誤差の差が小さいと言う事がわかるので すべての結合荷重の場合において学習が成功しているといえる。 次に一番回数が多い10万回の結果の平均誤差を同じグラフ上にそれぞれ表す。そのグラフを図 5.3(a) (b)で示す。

図 5.3: 10万回学習における各波形の誤差
\includegraphics[scale=1]{experiment3_1.eps}

(a)平均誤差

\includegraphics[scale=1]{experiment3_2.eps}

(b)最大誤差

はじめに、10万回学習をした際にいくつフィードバックすると学習が成功といえるかを調べると、 正弦波は1回、三角波は1回、方形波は7回、鋸波は9回という結果であった。  この回数より、対象データを二分する事ができる。 正弦波と三角波のグループと、方形波と鋸波のグループである。 前者のグループの特徴としてはある時刻$t$と次時刻$t+1$の変化分が小さいと言う事である。 一方、方形波と鋸波は一周期の一部で大きく変化する箇所が存在する (方形波でいうと7個目から8個目と15個目と16個目(1個目)、鋸波は最後のデータと最初のデータ間)。 今回、一周期におけるデータ数は16個なので 大きく変動部を持つデータ郡は半周期である8前後で学習する事ができるという事が考えられる。 また、図 5.3(a)のグラフより鋸波は方形波に対してフィードバック数が小さいときに平均誤差が小さかった。 これは鋸波が方形波と三角波の性能を合わせたように波形であるため、その二つの結果の平均のような値になったと思われる。 一般的には鋸波よりも方形波の方が学習しにくいと考えられる。しかし、本実験では学習成功回数が方形波の方が少なかった。この理由は一周内に存在する 大きく変動する回数に関係すると考えられ、 今回のデータでは方形波は8データ周期で、鋸波は16データ周期でくるから、 鋸波の方が学習しにくかったのではないかと考えられる。 まとめとして、時間的変化の小さいデータ群は小さなフィードバック数で学習する事が出来、 一部で時間的変化が大きいデータ群は半周期前後のフィードバックが必要であると言う事である。


next up previous contents
Next: 内部記憶を持つニューラルネットワークの学習 Up: フィードバックのあるニューラルネットワークの学習 Previous: 実験概要   目次
Deguchi Lab. 2012年3月9日