next up previous contents
Next: 4.6 学習3改−学習回数を増やす Up: 第4章 周期パターンの検出 Previous: 4.4 学習3−逆順の入力に対応

4.5 パラメータの推移

ここで、各学習時におけるカオスパラメータ tex2html_wrap_inline1230tex2html_wrap_inline1236tex2html_wrap_inline1242 の推移を見てみる。

図 4.10、図 4.11、図 4.12 を 見ると、学習が複雑になるにつれて tex2html_wrap_inline1230 は大きく移動していることが分かる。 学習1では学習 100回ですでに 1000回のグラフに近づいており、それ以上の学習は ほとんど行なわれていない。学習2では 100回目まではあまり学習されておらず、 200回から 500回に間でよく学習されている。学習3では、100回から 500回の間に よく学習されている。

初期値に対する学習後の値には、あまり関係性がないと考えられる。それは、カオス ニューロンの動作が tex2html_wrap_inline1230 のみによって決まるものではなく、またわずかな値の 違いによって大きく異なる反応を示すものであるからである。

しかし、初期値が 1.82931 の出力層ニューロン2はどの図でも 0.3〜0.6 まで上がって おり、また、初期値が 0.702883 の中間層ニューロン16はどの図でも 0.72〜0.78 に なっているなど、似た推移を示すニューロンもある。

tex2html_wrap_inline1230 としての特徴は、学習後にはほとんどのニューロンでその値が上昇している ことが挙げられる。

   figure473
図 4.10: 学習1の tex2html_wrap_inline1230 の推移

   figure481
図 4.11: 学習2の tex2html_wrap_inline1230 の推移

   figure488
図 4.12: 学習3の tex2html_wrap_inline1230 の推移

パターンの特徴として、X tex2html_wrap_inline1520 T tex2html_wrap_inline1520 W tex2html_wrap_inline1520 X と S tex2html_wrap_inline1520 C tex2html_wrap_inline1520 F tex2html_wrap_inline1520 S の各周期パターンで 各画素ごとに0から1、または1から0へ変わる回数を調べた。その結果、 前者の周期パターン1で常に0または1の入力が入る画素は 27個で、0-1-0 または1-0-1と入る画素は 73個であった。後者の周期パターン2では、 同じく 26個と 74個であった。

入力層では一つの画素が一つのニューロンに対応しており、同じ入力が続く場合、特 に0が続く場合は式 (3.9) においては tex2html_wrap_inline1298 が、また 式 (3.12) においては tex2html_wrap_inline1304 が非常に小さくなる。 そのため、そのニューロンの tex2html_wrap_inline1230tex2html_wrap_inline1236 はほとんど学習されなくなる。

図 4.13、図 4.14、図 4.15tex2html_wrap_inline1236 の推移を示したものである。ニューロンによっては値が大きく増加している ものもあるが、全体的には tex2html_wrap_inline1230 よりもそれほど大きく変化していないことが分かる。

   figure500
図 4.13: 学習1の tex2html_wrap_inline1236 の推移

   figure508
図 4.14: 学習2の tex2html_wrap_inline1236 の推移

   figure515
図 4.15: 学習3の tex2html_wrap_inline1236 の推移

図 4.16、図 4.17、図 4.18 には、 tex2html_wrap_inline1242 の推移を示す。これを見ると、ほとんどのニューロンでその値が減少している ことが分かる。

初期値が 2.405 の出力層ニューロン1と、初期値が 2.761 の出力層ニューロン2は 特に下降が顕著である。学習1で二箇所大きく下がっているのがそのニューロンであり、 学習2・3においてはほぼ零になっている。不応性 tex2html_wrap_inline1242 がなくなると ニューロンの動作は比較的穏やかになるので、カオスニューロンとしての特徴が 失われ、普通のニューロンと同様の動作をしていると考えられる。

   figure526
図 4.16: 学習1の tex2html_wrap_inline1242 の推移

   figure534
図 4.17: 学習2の tex2html_wrap_inline1242 の推移

   figure541
図 4.18: 学習3の tex2html_wrap_inline1242 の推移



Deguchi Toshinori
1998年04月01日 (水) 12時03分23秒 JST