中間層のノード数の変更

ニューラルネットワークの中間層には現在2つのノードがあるが、これを変更することによって発生する学習への影響を調べることにした。 以降、このノードの数を中間ノード数と呼ぶことにする。 まず、高調波数が20の時に分割数1〜50までの間で、学習成功率は中間ノード数を増やすことで変化するか実験を行った。

図 6.10は中間ノード数を2〜50、分割数を1〜50までそれぞれ変更した時に学習した点をプロットしたものである。 中間ノードの変化による差はこの図からでは分かりにくい。

そこで、中間ノード数を変更したときの学習成功率の推移を図 6.11に表した。 これも図 6.10と同じ条件で、各中間ノード数で学習成功率がどう変化するかを示している。 やはり、この結果から特別な変化は読み取れない。 実験をより多く繰り返すことで変化が読み取れる可能性もあるが、ここで他のパラメータと同様に、GAを用いて最適な中間ノード数を求めることにした。

図 6.10: 分割数と中間ノード数を変更したときの学習成功(誤差0.1以下)した点

図 6.11: 中間ノード数を変更したときの学習成功率の推移

遺伝子のデータ長を8bit増やし、その部分を2〜255の範囲で中間ノード数を割り当てることで中間ノード数をGAに組み込んだ。 これを用いて分割数と高調波数を変更してデータを取り、図 6.9と比較する実験を行った。 結果は図 6.12となり、あまり差は見られなかった。

そこで、中間ノード数が分割数、高調波数をそれぞれ変更したときどのように変化するかを調べた。 1〜50までの分割数、同じく1〜50までの高調波数において、エリート遺伝子が持つ中間ノード数のパラメータをとり、その中で高調波数4、14、38のときのデータを図 6.13に例として示す。 このグラフからでは、中間ノード数と分割数、高調波数は関連性は見出せない。 このため、中間ノード数が遺伝的アルゴリズムにおいて意味のない情報であると考えられる。

このような結果になったことから、中間ノード数は学習に影響を与えるものではないと分かる。

図 6.12: 中間ノード数をGAで設定したときの学習成功(誤差0.1以下)した点

図 6.13: 各高調波数の分割数と中間ノード数の関係