next up previous contents
Next: 5.6 学習結果 Up: 第5章 実験 Previous: 5.4 使用したパターン

5.5 学習方法

対象となるパターンを覚えさせる学習回数を50回を基本として、 結合荷重である tex2html_wrap_inline1112 を変化させた。 本研究室では、 tex2html_wrap_inline1112 = 0.05 の定数で学習していた。 そこで、結合荷重を変数した場合に、 どのような影響があるかどうか実験した。

さらに、学習回数を50回の他に、25回、40回、75回、100回の場合においての tex2html_wrap_inline1112 を変化させていき、内部状態をリセットの否かで実験を行なった。 学習回数が多いと当然のことながらが学習しやすくなることが考えられる。

ここで、学習パラメータである結合荷重 tex2html_wrap_inline1112 の変化量と内部状態のリセット について述べる。

まずは、結合荷重 tex2html_wrap_inline1112 の変化量について述べる。 本学習法は相関学習とは異なり、学習条件を満たしているニューロンのみ 結合荷重を変化させて行なう。相関学習ではパターンの相関に基づいて全ての 結合荷重を変化させてパターンを学習するが、本学習法ではそのパターンを 学習するために結合荷重を変化させる必要のあるニューロンのみ 変化させることができる。相関学習ではお互いにつながっている ニューロンの結合荷重は同じ値になるが、本学習法ではその性質上、 同じ値にはならない。 学習は個々のニューロンが自分の内部状態によって判断するため、 全てのニューロンが同時に同じ回数だけ結合荷重を変化させて 学習を行なうのではなく、結合荷重の変化の回数が 多いニューロンと少ないニューロンが発生する。 このことが、相関学習と本学習法との大きな違いである。 相関学習では全てのニューロンが同様の結合荷重の変化量で学習を行ない、 多くの学習が必要なニューロンも少ない学習で良いニューロンも 同じ量の学習を行なう。 本学習法では、あまり学習する必要のないニューロンは結合荷重を 変化させる回数が少なく結合荷重の変化量が小さい。 また、多く学習する必要があるニューロンは結合荷重を変化させる回数が多く 結合荷重の変化量が大きくなる。

次に、内部状態のリセットについて述べる。 内部状態のリセットは、 1つのパターンを50回学習してからリセットを行ない、 それから次のパターンの学習をする。 リセットするということは、それまでの内部状態の変化が、 それ以降の学習に反映されずに、 不応性等の時間減衰パラメータが意味を持たなくなる。 そのため、内部状態のリセットを行なう機能は本来のカオスニューロンには 備わっていないと考えられる。 内部状態のリセットを行なわない場合、 入力パターンが変化した直後はまだ前のパターンの影響が内部状態に残っており、 ネットワークはしばらくの間、以前の入力パターンを出力し続ける。 しかし、時間経過によって学習が進むと内部状態が新しいパターンにあわせて 変更され、ネットワークは新しいパターンを出力するようになると考えられる。 こちらも従来の連想記憶に比べると学習に時間がかかると 思われるが、より実物に即した学習形態であると考えられる。



Deguchi Toshinori
Wed May 15 13:53:18 JST 2002