考察

学習成功率比較より、相関学習より逐次学習の方が大幅に性能が良いことを確かめることができたが、 2つの学習法には性能の他にも様々な特徴があることがわかった。まず、学習成功率の減少の仕方である。 相関学習は、学習効率が減少し始めるのは早いが減少速度は遅い、 逆に逐次学習は、学習効率が減少し始めるのは遅いが減少速度は速い。 そして、相関学習は学習パターン数がある程度大きくなっても、ほぼ一定の個数だけは学習できるが 逐次学習は、学習パターン数が増えると１つのパターンも学習できなくなってしまう。 また、学習パターンを１が50%、$-1$が50%の10×10の2次元配列のデータから、 1と$-1$の割合に制限しないすべてランダムに生成されたパターンに変えてみると、 相関学習に関しては学習結果にあまり変化が見られず、 逐次学習に関しては大幅に学習性能が上昇した。 これらの違いの原因を、実験結果から考えていく。

実験ではまず始めに、それぞれの学習法によって決定される結合荷重の大きさとその個数の分布を調べた。 この結果より、相関学習では、学習成功率が下がり始めたときに分布が大きく変化することなくばらばらで、 学習パターン数が増えていくと0を中心に三角形のように分布したが、そこが中心とはならず、2、3の点は 他のところに分布した。 これは式 (2.5)のように結合荷重が設定されることで、 学習パターン数と同じ数の結合荷重が多くなってしまうためであり、この点が分布が乱れる原因となっている。 また、三角形のように分布するのも、ランダムなパターンを入力しているのでこの結合荷重設定方法では、 0に近い数字ほど多くなり、遠くなるほど少なくなることが自然であると考えられる。

逐次学習でも、学習成功率が下がり始めたときに分布が大きく変化することはなかったが、 ほとんどの分布で多少軸がずれることはあるものの左右対称になっていることがわかった。 そして、学習パターン数が増えるにつれて大きく分布が乱れることはなく、終始分布の概形は同じであった。 これは式 (4.1)を満たしたとき式 (4.2)によって結合荷重が設定されるため、 同じ結合荷重となることは滅多になくほとんどの結合荷重の個数が1つになり、値も多くなるので分布も広がるからである。 また、2つの学習法において言えることだが、学習パターンが1と−1の割合が均一ということも 分布の形に影響を与えたのではないかと考えられる。

次に、得られた結合荷重より様々な統計量を求めた。 まず初めに平均を求めた。相関学習では、学習パターン数11まで完全に学習できたが、 それ以前の平均はほとんどゼロであるが、それ以降はどんどん大きくなっていった。 しかし、傾きでいうと学習パターン数が1〜11の範囲では約0.0164で、それ以降は約0.00628となり、 増え方は学習パターン数が11へいくまでが最も大きくなった。 逐次学習では、学習パターン数89まで完全に学習できたが、こちらは変化がわかりやすく、 その前後で結合荷重の大きさの正負が分かれている。1〜89の範囲の平均の大きさの平均は約0.158、 それ以降は$-0.285$となった。 これらの結果より、平均値はなるべく0に近い正の数となることが良い学習の条件なのではないかと考えられる。

次に、標準偏差と分散を求めた。これらはともに同じ特徴を表しているので、本研究では標準偏差に注目して考える。 相関学習では、標準偏差の大きさにこれといって特徴はなく、終始ほぼ同じ傾きで増え続けていった。 しかし、増加分はそれほど大きくなく学習パターン数が250になってもそれほど大きな値にはならなかった。 逐次学習では、完全に学習できた学習パターン数89のところを頂点とした山のような形になっていて、 線形的に増加し、幾何級数的に減少していくのは学習効率のグラフとかわらないが、 増加率よりも減少率の方が小さいところが異なっている。 これらの結果より、標準偏差は学習が成功できる適切な大きさがあることがわかる。 よって、結合荷重の増加率を抑えれば、標準偏差の大きさも抑えられるので、 完全に学習ができる限界の大きさに到達するまでが長くなり、学習パターン数が増え、学習効率も上がるのではないかと考えられる。

次に、尖度と歪度を求めた。 相関学習では、尖度はマイナスの値から始まり徐々に増え続けるが、完全に学習できている間は値を小さく保っている。 しかし、学習パターン数50を超えたあたりから、幾何級数的に急激に上昇し始め、最後には 他の歪度とは桁が違うほど大きくなってしまった。 歪度は尖度と同じような特徴を持っているが、始まりはほとんど0に近いマイナスの値であった。 逐次学習では、尖度はマイナスの値から始まり、それ以降は学習の成功率に関係なく増減したが、 尖度の平均は0.830となり、基本的に0より上の範囲内でグラフが上下した。 こちらも歪度は歪度と同じような特徴を持っているが、値は尖度ほど大きくなく、終盤に急激に 負の値に減少したため、平均は0.188となった。 これらの結果より、学習成功率を高めるには結合荷重の分布は正規分布と比べてとがりすぎず、 扁平すぎず同程度である必要がある。また、現在の研究段階では偏るにしても扁平よりは 尖っていた方が良いと考えられる。 また、正規分布と比べて左右に偏ることなく、左右対称の分布している必要もあり、偏るとしても 右に裾が長いように傾いていた方が良いと考えられる。

次に、結合荷重の標準化を行った。 このそれぞれの学習法につき3つの表より、 それぞれの正負の値の絶対値を隣同士で比べてみると、 相関学習は値の大きさに大幅な開きがあり、逐次学習は大体同じになっている。 そして、結合荷重の大きさは逐次学習と比べて相関学習の方が大きい値になっているので 、前述したような学習パターン数と同じ大きさになってしまう結合加荷重をうまく調節できれば、 正負のバランスも大幅に改善できて、学習成功率が上がるのではないかと考えられる。