next up previous contents
Next: 第6章 結論 Up: 第5章 実験 Previous: 5.4 学習回数の特性

5.5 学習個数との関係

学習個数とは、今回の実験で用いるAからZまでのパターンのことである。 これにAからFの6パターンを対象として、 学習個数を増やしていく段階で、 どれだけ連続で対象パターンを覚えているのかを調べた。 初期学習回数と、他の覚えさせるパターンの個々の学習回数を変えて実験を行なった。

対象となる6パターンで初期学習回数50回、 他のパターンの個々の学習回数25回とした時の 状態を表したのが図 5.8 である。 ここで、学習個数が3個までなら対象パターンは一度でも想起することが 可能であるが、以降Aを除く全ての対象が想起不可能になった。 ここでもAパターンの特異性を見ることができて、 12個まで想起することが可能になった。  5.4節 で述べたようにAのパターンは対象の中でも 特に強い結合を持っていると考えられる。 また、A以外のパターンでは、Dの様に学習個数を上げることで、 対象が想起できたセット回数が上がるパターンもあり、 用いるパターンによってその特性はさまざまであることが分かる。

次に初期学習回数による特性を比較する。 まず図 5.8 と図 5.9 を例にあげる。 図 5.8 では初期学習回数を50回として、 図 5.9 では25回としている。 学習回数25回の方は、未知パターンの個数を増やしていった時、 連続して覚えているセット回数が急に1に落ち込むのに対し、 学習回数50回の方は、数セットの間は覚えている区間がある。 これは、初期学習回数を増やして、より多くそのパターンを ニューラルネットに学習させているので、 記憶もなかなか崩れないからであると考えられる。 図 5.8 に関して、対象Aが一度想起できなくなったのだが、 次に1度ではあるものの想起が可能になった。 この理由もまた、未知のパターンによる影響であると考える。

図 5.10 から図 5.21 は、 それぞれの対象パターンについて、 初期学習回数と学習回数をそれぞれ変えて特性を取ったものである。

Aを対象とした場合、図 5.10 と図 5.11で 見ると、初期学習回数が50回の方は、学習回数が変化しても、 未知のパターン10個で再び対象を想起することが可能になったが、 25回の方は想起できなくなった。また、学習回数が25回の方が 対象を想起できる回数は多かった。

Bを対象とした場合、図 5.12 と図 5.13で、 初期学習回数が50回の方は、未知のパターンの学習回数を増やすことで 対象を想起できる回数が多くなった。これはAと反対の特性を示している。 また、初期学習回数25回の方は、50回と比べて、学習個数が増えることで 対象が急に想起できなくなる点があった。 初期学習50回の方は想起できなくなる前に9セット想起できたが、 25回の方は1セットしか想起できなかった。

Cのパターンは初期学習回数25回で、学習回数を上げることで、 対象が想起できる回数が多くなった(図 5.14 と図 5.15 参照)。

Dのパターンは未知の入力パターンが4個の時に対象を想起できる回数が 多くなっている(図 5.16 と図 5.17 参照)。 これは、今回の実験では対象を省くアルファベット順で 未知の入力パターンを学習させたため、3個めに用いた未知の入力パターンは Cパターンであることが関係していると思われる。 CのパターンはDのパターンと文字の形が似ているため、 Cのパターンを学習する中で再び想起出来るような 影響を受けたと考えられる。

Eのパターンは条件を変えても、対象を想起できる回数や 学習できる個数で、特に違いが見られなかった (図 5.18 と図 5.19 参照)。 これにより、対象のパターンによってはパラメータを変えても、 対象を想起できる回数が大きく変わらないパターンがあることが分かった。

Fのパターンは初期学習回数が25回の時は条件を変えても変化が現れなかった。 また、初期学習回数50回の方は、未知のパターンの学習回数25回の場合、 学習個数が増えることで対象が急に想起できなくなる点があったことに対し、 学習回数50回、または100回の方は、完全に対象を想起できなくなるものの、 その間に対象を想起できる点が存在している。

以上の結果より、初期学習回数が25回より50回のほうが、 想起できるセット回数と学習個数が多いことが分かった。 中にはEの初期学習回数50回や、Fの初期学習回数25回の様に、 想起できる回数に変化が無かった例外もあるが、 ほとんどの対象に同じことが言える。 学習回数との関係は、それぞれの対象によって違うものの、 初期学習回数25回だと特に、学習させるパターンの学習回数が50回の時よりも、 100回の方が対象パターンを連続して覚えているセット回数が多い。 先の実験では、学習させるパターンの学習回数を増やすことで、 対象のパターンを早く忘れていったが、 ここではその逆の現象が起こっている。 これは、個々の学習回数を増やすことで、 それぞれパターンを確実に覚えたからではないかと考える。 うろ覚えの状態で他のパターンを学習させることは 覚えさせた学習パターンと混合し易くなるからではないかと考えた。 それは、パターンの記憶を完全にたたき込むことにより、 その後の繰り返し学習をする際に小さな結合荷重の変化しかしないということである。 対象パターンが想起できるには、 どれだけ対象パターンの記憶を結合荷重の中に残しているかということなので、 これにより対象パターンの記憶も学習回数が50回と比べて崩れない状態で 長持ちをするのではないかと考える。 また、パターン学習回数25回での場合では50回や100に比べて 想起できる度合は高い。 これは単に学習回数が少ないために結合荷重が大きく変動しないからだと考える。

これらの研究で用いたアルファベット6つのパターンを対象にした場合、ほとんどが 未知のパターンが3個までなら 1セット学習した後でも想起することが可能であることが分かった。

   figure353
図 5.8: 初期学習回数を50回とした場合

   figure361
図 5.9: 初期学習回数を25回とした場合

   figure369
図 5.10: 初期学習回数を50回とした場合のA特性

   figure377
図 5.11: 初期学習回数を25回とした場合のA特性

   figure385
図 5.12: 初期学習回数を50回とした場合のB特性

   figure393
図 5.13: 初期学習回数を25回とした場合のB特性

   figure401
図 5.14: 初期学習回数を50回とした場合のC特性

   figure409
図 5.15: 初期学習回数を25回とした場合のC特性

   figure417
図 5.16: 初期学習回数を50回とした場合のD特性

   figure425
図 5.17: 初期学習回数を25回とした場合のD特性

   figure433
図 5.18: 初期学習回数を50回とした場合のE特性

   figure441
図 5.19: 初期学習回数を25回とした場合のE特性

   figure449
図 5.20: 初期学習回数を50回とした場合のF特性

   figure457
図 5.21: 初期学習回数を25回とした場合のF特性



Deguchi Toshinori
Mon Feb 19 18:58:08 JST 2001