実験結果

逐次学習法はカオスニューロンの内部状態である外部入力の項、相互結合の項、不応性の項 の関係が一定の条件を満たしたときに学習を行うものである。 5.5.2項では、時間減衰定数を0にすることにより、カオスニューロンの内部状態である 外部入力の項、相互結合の項、不応性の項が変化し、学習結果に影響を与えたと考えられる。 そこでまずは内部状態の一つである不応性の項に対するスケーリングファクタである$\alpha$に注目し、 $\alpha$の値を変化させることで学習結果にどのような変化があるかを見ることにする。

ここで$\alpha =2$という値は大きく、$\alpha$の値が2よりも小さい時の方が学習結果が良くなることがわかっている。[11] そこで$\alpha$の値は0.1から1.9まで0.1ずつ変化させて学習結果の変化を見た。 その結果を時間減衰定数を考えない場合と、考える場合とで、に示す。 縦軸が最大完全学習数、横軸が$\alpha$の値となっている。 また、時間減衰定数はニューロン間のフィードバックにも影響してくるため $\mathit {\Delta } w$の値によっても学習結果の変化があると考えられる。 よって $\mathit {\Delta } w$の値による学習結果の変化を調べるために $\mathit {\Delta } w$の値を0.001から0.01まで0.001ずつ変化させて学習結果の変化を見た。 その結果を時間減衰定数を考えない場合と、考える場合とで図5.6、図5.7に示す。 縦軸が最大完全学習数、横軸が $\mathit {\Delta } w$の値となっている。

図 5.4: $\mathit {\Delta } w=0.01$、$\alpha$を変化させたときの学習結果（時間減衰定数を考えない場合）

図 5.5: $\mathit {\Delta } w=0.01$、$\alpha$を変化させたときの学習結果（時間減衰定数を考える場合）

図 5.6: $\alpha =2$、 $\mathit {\Delta } w$を変化させたときの学習結果（時間減衰定数を考えない場合）

図 5.7: $\alpha =2$、 $\mathit {\Delta } w$を変化させたときの学習結果（時間減衰定数を考える場合）

結果を見ると、$\alpha$と $\mathit {\Delta } w$を変化させたところ両方とも学習結果に影響を与えていることがわかる。 $\alpha$と $\mathit {\Delta } w$の両方が結果に影響を与えているため、両方とも適した値を探さなくてはならない。 このとき$\alpha$は1.3のときに最大完全学習数は86で最大となっている。 また $\mathit {\Delta } w$0.001のとき64で最大となっている。 このような結果が得られたが、これは$\alpha$と $\mathit {\Delta } w$の値が双方に影響を与えていると考えられることから、 この$\alpha$と $\mathit {\Delta } w$の値が最良とは言えない。 $\alpha$と $\mathit {\Delta } w$の最適な値を求めるには、変化させる値が2つあるので、 変化させる値が1つの場合と比べて膨大な回数の実験をこなさなければならない。 実験を行う回数を減らすためにどちらか片方をまず一定の値と仮定し、もう片方のみを変化させて結果を見ることにした。 時間減衰定数を0にしていないときの$\alpha$が最適であるとすると、最適な $\mathit {\Delta } w$はだいたい0.003であるとわかっている。[11] また時間減衰定数である$k_{s}$、$k_{m}$、$k_{r}$の関係から時間減衰定数を0としたときの最適な $\mathit {\Delta } w$は0.00016であると仮定した。 ここからは $\mathit {\Delta } w=0.00016$、時間減衰定数を0とした場合にどこまで学習結果を良くしていけるかを調べる。 $\mathit {\Delta } w=0.00016$とし、$\alpha$の値を0.1から2.0まで変化させたときの結果を図5.8、図5.9に示す。 図を見てみると、時間減衰定数を考えない場合で最大完全学習数132であることがわかる。 時間減衰定数を考えた場合でも同じように $\mathit {\Delta } w=0.00016$とし、$\alpha$の値を0.1から2.0まで変化させたときの結果を図に示す。 この結果から$\alpha$と $\mathit {\Delta } w$の組み合わせが違うが、最大完全学習数は両方132が限界となっている。 しかしこの $\mathit {\Delta } w=0.00016$というのは時間減衰定数を0にした場合に学習結果が良くなるように考えたものである。 そのため時間減衰定数を考えた場合での、$\alpha$と $\mathit {\Delta } w$の組み合わせについてはこの結果より良くなる可能性がある。

図をみると最大完全学習数が一番大きくなる$\alpha$は実験を行った$\alpha$の範囲の最初となっている。 そこで$\alpha$の範囲を0.01から0.1までにかえて実験を行った。 その結果を図5.10、図5.11に示す。

図 5.8: $\mathit {\Delta } w=0.00016$のときの学習結果（時間減衰定数を考えない場合）

図 5.9: $\mathit {\Delta } w=0.00016$のときの学習結果（時間減衰定数を考える場合）

図 5.10: $\mathit {\Delta } w=0.00016$のときの学習結果2（時間減衰定数を考えない場合）

図 5.11: $\mathit {\Delta } w=0.00016$のときの学習結果2（時間減衰定数を考える場合）

この結果から時間減衰定数を考えないとき、 $\mathit {\Delta } w=0.00016$とすると 最大完全学習数は、$\alpha$が0.02のあたりから徐々に増えていき、0.09から0.7の間は132パターンと最大となることがわかる。 最大完全学習数の最大値は132から増えることは無かった。 また$\alpha$が0.09になるまでと0.7を超えるまでは緩やかに増減していることがわかる。 時間減衰定数を考えた場合での最大完全学習数も132であった。 今回の学習パターンの場合は最大完全学習数は132が限界であると考えられる。

今回の実験では$\alpha$の値の微量の変化が結果に大きく影響したため、$\alpha$を変化させる範囲を徐々に狭めていった。 そのため実験結果のつながりがわかりにくくなったので、学習結果の変化がわかりやすいと思われる$\alpha$範囲を細かくとり、 学習させた結果を時間減衰定数を考える場合と考えない場合でそれぞれ図5.14、図5.15に示す。 最大完全学習数が132で最大となったときの学習結果を時間減衰定数を考えない場合と考える場合でそれぞれ図5.12、図5.13に示す。 時間減衰定数を考えない場合の$\alpha$は0.3であり、時間減衰定数を考える場合の$\alpha$は0.06である。

図 5.12: $\alpha =0.3$のときの学習結果（時間減衰定数を考えない場合）

図 5.13: $\alpha =0.06$のときの学習結果（時間減衰定数を考える場合）

図 5.14: $\mathit {\Delta } w=0.00016$のときの学習結果3（時間減衰定数を考えない場合）

図 5.15: $\mathit {\Delta } w=0.00016$のときの学習結果3（時間減衰定数を考える場合）

今回の実験から時間減衰定数を単純に0にした場合、 $\alpha$と $\mathit {\Delta } w$の値を変化させずにそのまま利用すると 最大完全学習数が時間減衰定数を考える場合の学習結果に比べて少なくなり、 学習結果が悪くなるということがわかった。 しかし$\alpha$と $\mathit {\Delta } w$の値を適した値にすることで学習結果は向上し、 最大学習成功数が時間減衰定数を考える場合と同じ値を示した。

今回の実験では、入力パターン数が0である場合の学習成功パターン数は0としてある。 また、今回の実験では入力パターン数を2づつ増加させていったため、入力パターン数が1である場合を想定していない。 その入力パターン数が2のときに学習成功パターン数が2以下であった場合の最大完全学習数は0となっている。 したがって、今回の実験で、最大完全学習数が0という結果が得られた場合でも、本当に最大が0かどうかはわからない。