実験１：様々な素子数における$\Delta w$と学習したパターン数の変化

本実験では50, 100, 200, 300, 400素子のネットワークを用いて実験を行なう。そして全ての素子数で共通に学習回数50回、学習セット回数100セットと設定した。 $\Delta w$は$0$から$0.1$までを100個に分割し、その一つ一つの値を用いる。 まず各素子数において、入力パターン数を増加させていきネットワークが学習したパターン数の変化を調べる。 入力パターン数の増加量は50, 100, 200, 300素子については10パターンずつ、400素子については学習に時間が多くかかるため50パターンずつとする。 この時$\Delta w$については未だ適当な値が分からないため、100分割した全ての値を用いての学習を繰り返す必要がある。 繰り返し学習を行なった中で学習したパターン数の中で最大のものが、ネットワークが学習した最大パターン数となる。 この時入力パターン数と学習した最大パターン数が同じならばネットワークは少なくとも1つの$\Delta w$の値を用いて完全学習できる事がわかる。 このある1つの$\Delta w$を適切な$\Delta w$とする。 言い替えれば適切な$\Delta w$とは完全学習できた時の$\Delta w$を意味している。

次に、完全学習ができる最大の入力パターン数を最大完全学習数と定義し、その具体的な数を調べる。 またそれと同時に、適切な$\Delta w$を見つけるため$\Delta w$の変化を調べる必要がある。 そこでまず完全学習ができた入力パターン数と、完全学習ができなかった入力パターン数との間を細かく変化させる。 そして、その時$\Delta w$の値を変化させ学習したパターン数の変化を調べる。 これにより先ほどは具体的に値が分からなかった適切な$\Delta w$を確認する事が可能になる。 また適切な$\Delta w$の値や用いる事が可能な値の幅の素子数による変化を確認することができる。