next up previous contents
Next: 第6章 結言 Up: 5.2 実験概要 Previous: 5.2.3 局所的追加学習の実験結果および考察

5.2.4 広域的追加学習と局所的追加学習の比較実験の結果および考察

広域的追加学習と局所的追加学習の比較実験は、ノイズと欠落の訂正能力を比較した。実験は既知パターンA,B,Cを学習しているネットワークに、ノイズや欠落を付加した未知パターンaを入力した時、離散時間 tex2html_wrap_inline1890 までに追加学習を行ない、次の離散時間 tex2html_wrap_inline1894 までで追加学習されているか確認した。確認の方法として離散時間 tex2html_wrap_inline2066 までの変化量が20以内である時(ニューロンの出力が正しいパターンでない所が10個以内)追加学習されていると判断した。ただし、 tex2html_wrap_inline2070 までの変化量はt=50のニューロンの出力が入力パターンそのままなので、そこの部分の変化量は大きく、追加学習されていても発生するので確認のための変化量からは省いた。追加学習の変化量のしきい値は tex2html_wrap_inline2074 とした。この実験を各相違度ごとに100回ランダムにノイズや欠落を付加して行ない、そのときの追加学習できた回数を学習率とした。

ノイズに対する訂正能力を図5.15で示した。広域的追加学習は相違度10まで100[%]追加学習され、相違度が26以上になるとほぼ0[%]となった。50[%]以上学習できるのは相違度が18までで、ノイズの数にすると9個までである。局所的追加学習では、相違度14まで100[%]追加学習され、相違度が30以上になるとほぼ0[%]となった。50[%]以上学習できるのは相違度が24までで、ノイズの数にすると12個までである。広域的追加学習と局所的追加学習を比較すると局所的追加学習の方が広域的追加学習よりも、相違度5ぐらい全体的にノイズ訂正能力が高い。

欠落に対する訂正能力を図5.16で示した。広域的追加学習は相違度13まで100[%]追加学習され、相違度が25以上になるとほぼ0[%]となった。50[%]以上学習できるのは相違度が20までで、欠落の数にすると20個までである。局所的追加学習では、相違度29まで100[%]追加学習され、相違度が45以上になるとほぼ0[%]となった。50[%]以上学習できるのは相違度が39までで、欠落の数にすると39個までである。広域的追加学習と局所的追加学習を比較すると局所的追加学習の方が広域的追加学習よりも、相違度15ぐらい全体的に欠落訂正能力が高い。

この二つの結果から同じ相違度でもノイズと欠落とでは欠落の方が訂正能力が高く、とくに局所的追加学習にそれが顕著に見える。これは欠落が正しいニューロンの出力の部分への影響が0であるのに対し、ノイズは正しいニューロンの出力の部分への影響がマイナスで間違った影響を結合荷重を通して与えてしまうためと考えられる。

広域的追加学習より局所的追加学習の方がノイズや欠落に対する訂正能力が高いということは、広域的追加学習の学習より局所的追加学習の学習の方が良いということである。学習は結合荷重値の変化によって行なわれるもので、学習が良いということは結合荷重値の変化が良いということである。広域的追加学習の結合荷重の変化は4.3.2節で述べたように+1か-1ずつの変化で結合荷重値は整数である。それに対して、局所的追加学習では結合荷重の変化は4.4.1節で述べたように+0.05か -0.05ずつ変化するために、そのパターンを学習するうえで、最も良い結合荷重値に広域的追加学習より近付くことができると考えられる。そのため広域的追加学習より局所的追加学習の方がノイズや欠落に対する訂正能力が高いと考えられる。

   figure547
図 5.15: ノイズ訂正能力

   figure555
図 5.16: 欠落訂正能力



Deguchi Toshinori
1998年03月18日 (水) 13時22分42秒 JST