next up previous contents
Next: 第5章 実験 Up: 4.4 局所的追加学習 Previous: 4.4.2 ニューロンの内部状態の推移

4.4.3 結合荷重の推移

ニューロン間の結合荷重の推移を図4.3で表す。図は100離散ステップ時間毎にパターンA,B,C,a,b,cを追加学習する時の14番目のニューロンとその他のニューロン間の結合荷重の推移を表している。最初全ての結合荷重は0であり、その後14番目のニューロンの内部状態により結合荷重を変化させるか判別して、変化させるなら14番目のニューロンの出力状態とその他のニューロンの出力状態で結合荷重を増加、減少させる。そのため結合荷重の変化は、パターンにノイズが存在しなければ、一つのパターンごとに増加、減少の二種類しかなく学習させるパターンが増えるごとに枝分かれしていく。図で6個のパターンを学習した離散ステップ時間が600の時点で、結合荷重が最大になるのは21,28番目のニューロンとの結合荷重で、14番目のニューロンへの入力と21,28番目のニューロンへの入力はすべて同じである。また最小なのは16番目のニューロンとの結合荷重で、14番目のニューロンへの入力と16番目のニューロンへの入力はすべて反対である。結合荷重の絶対値が大きいほどそのニューロンの出力の影響を大きく受けるので21,28番目と16番目のニューロンの出力の影響を一番大きく受け、結合荷重の絶対値が0に近いほど影響が小さい。

広域的追加学習の結合荷重の値は対称性 tex2html_wrap_inline1838 であたっが、局所的追加学習では対称性にならない。これは学習が局所的であるためにニューロンが違えば結合荷重を変化させる回数が違うために対称性にならない。また、広域的追加学習の時は結合荷重の値は整数であるために結合荷重値の差が一つずつであるが、局所的追加学習では結合荷重値を0.05ずつ変化させているので結合荷重値の種類が多く、細かく結合荷重値を設定することができる。

   figure354
図 4.3: 結合荷重の推移



Deguchi Toshinori
1998年03月18日 (水) 13時22分42秒 JST