next up previous contents
Next: 第5章 他の学習法 Up: 第4章 本研究の学習法 Previous: 4.3 内部状態の推移

4.4 結合荷重の変化

本学習法は相関学習ではなく、学習条件を満たしているニューロンのみ結合荷重を変化させ学習を行なう。相関学習ではパターンの相関にもとづいて全ての結合荷重を変化させてパターンを学習するが、本学習法ではそのパターンを学習するために結合荷重を変化させる必要があるニューロンの結合荷重のみ変化させることができる。相関学習では互いに結んでいるニューロンの結合荷重は同じ値になるが、本学習法ではその性質上、対称にはならない。

4.54.6は縦一列にネットワークを形成している49個のニューロンを配置し、横に100回の入力を行なった時のニューロンの学習の様子を示している。大きい四角になっている所が、その時学習を行なっている、すなわち結合荷重を変化させているニューロンである。学習は個々のニューロンが自分の内部状態によって判断するため、全てのニューロンが同時に同じ回数だけ結合荷重を変化させて学習を行なうのではなく、結合荷重の変化の回数が多いニューロンと少ないニューロンが発生する。このことが相関学習と本学習法との大きな違いである。相関学習では全てのニューロンが同様の結合荷重の変化量で学習を行ない、多く学習が必要なニューロンも少ない学習で良いニューロンも同じ量の学習を行なう。本学習法では、あまり学習する必要のないニューロンは結合荷重を変化させる回数が少なく結合荷重の変化量が小さい。また、多く学習する必要のあるニューロンは結合荷重を変化させる回数が多く結合荷重の変化量が大きくなる。

4.54.6は6個のパターンを学習させるネットワークの、6番目のパターンの1セット目と3セット目の全てのニューロンの学習の様子である。1セット目では、結合荷重の変化の回数に差はあるが全てのニューロンが学習を行ている。3セット目では学習があまり行なわれなかった。これより、ニューロンによって結合荷重の変化の回数が違うことが確かめられ、1セット目では未知パターンだったパターンが3セット目では既知パターンとしてネットワークが動作していることが分かる。つまり未知パターンを学習できることが確かめられた。

     figure326
図 4.6: 既知パターン学習時(3セット目)
図 4.5: 未知パターン学習時(1セット目)

結合荷重値の分布として、6個のパターンを3セット入力した時の結合荷重値を、100回ごとにプロットしたのが図4.7である。結合荷重の変化は tex2html_wrap_inline1504 0.05ずつであるため、6個のパターンを学習したネットワークの結合荷重値の分布は、ほとんどすべての値に点在することが分かる。このことから、6個のパターンを学習したネットワークは、約260通りの結合荷重値でニューロン同士を結合している。相関学習では同じパターンを学習させた時、結合荷重値は7通りの値(6、4、2、0、-2、-4、-6)しか存在しない。そのため本学習法の方がそのパターンを学習する上で最適な結合荷重値でニューロン同士が結合することができると考えられる。

   figure344
図 4.7: 結合荷重値の分布



Deguchi Toshinori
Wed Jul 12 09:07:09 JST 2000