next up previous contents
Next: 気温の予測実験 Up: 基礎実験 Previous: Btypeでの予測結果

考察・検討

  学習中の誤差の変化で、普通に遅れ学習方を適用するのに比べて、出力分割、 並列処理2、合成2、の方法が誤差を小さくすることに有効であるといえる。 しかし、並列処理1と合成1の方法では 図7.2と図7.3のように 誤差の変化が不安定で値が上下する。 学習を行なう毎に、 ネットワークの重みを他のネットワークに代入する作業を行なっているので、 重みの変化が不安定になっていることが原因だと考えられる。 さらに、ランダムに tex2html_wrap_inline1341tex2html_wrap_inline1359 値の一部が変化することも、 誤差が不規則に変化する原因だと考えられる。

どの tex2html_wrap_inline1341tex2html_wrap_inline1359 の組合せが良いかどうかを評価するには、 正弦波の場合、ある程度の期間学習させてから評価する方が良いと考えられる。

学習中の最終的な誤差とAtypeでの予測値の誤差はほとんど同じ値であった。 これは、誤差の大きさに関わらず、 学習を行なっても重みがほとんど変化しなくなっているためだと考えられる。

Btypeでの予測で、ほぼ正確に予測できたのは、 合成1、合成2、出力分割の方法の3つの方法だけであった。 これらはすべて出力を分割する方法を適用しているので、 この方法はBtypeでの予測を行なうには有効であると考えることができる。

また、並列処理2の方法での学習での最終的な誤差は 0.009442 であり、 合成1の 0.016604 よりも小さい。 しかし、Btypeでの予測は合成1の方が正確にできている。 これより、学習中の誤差が小さいことが、Btypeでの予測が正しく行なわれることに、 必ずしも結び付かないことが分かる。

出力を分割する方法はAtype、Btypeともに誤差を小さくするのに有効であることが 確認できた。これには2つの理由が考えられる。

1つは出力層の素子を増やしたことによる誤差信号の増大である。 この考えが正しいかを調べるために遅れ1で出力を分割した場合と そうでない場合の中間層から入力層への誤差信号の絶対値の平均を調べた。 その結果は図7.6のようになった。 これより、誤差信号が増大していることが確認された。 よって、このことが誤差を小さくする原因と考えられる。

もう1つは出力層の素子を足し合わせた値で誤差を計算するので、 誤差の相殺が起こっている可能性があるということである。 これを調べるために、遅れ1で出力を分割した場合の 教師信号と出力値の誤差の絶対値の平均と、 出力値を足し合わせて分割数で割った値の 正弦波との誤差の変化を調べた。 その結果は図7.7のようになった。 これより、出力値を足し合わせることによって、 誤差を小さくしているものと考えられる。

     figure369
図 7.7: 出力分割時の誤差の比較
図 7.6: 誤差信号の平均値



Deguchi Lab.