結論

本研究では、カオスニューラルネットワークにおける逐次学習を用いた記憶検索を行う際に、ラ ンダムパターンを用いて記憶検索を行った場合の成功率と、それを向上させるための手法がある かを調べた。その結果、シナプス前抑制関数の抑制値に乱数もしくは三角関数を用いて、特徴抽 出機構を二つ用意することで記憶検索の成功率が上昇することがわかった。

まず実験1では、パターン数が10の場合で記憶検索を行った。その結果、ネットワークが必ず動 的に想起することができるという保証がないランダムパターンでは、従来の定数を用いた抑制値 では不適切であることが分かった。また、抑制値に乱数や三角関数を用いた場合、記憶検索の成功 率が高くなることが分かった。成功率が高くなった理由としては、抑制値に乱数や三角関数を用 いることで、記憶したパターン全てを動的に想起することができるようになったのだと考えられる。

実験2では、パターン数を20まで増やし、特徴抽出機構の学習回数を100,000回までに増やして記憶 検索を行った。 その結果、記憶検索において特徴抽出が非常に重要な役割を果たしていることがわかった。

実験3では、パターン数を30まで増やし、記憶検索を行った。その結果、成功率が著しく低下し ていることがわかった。その原因は特徴抽出にあると考え、実験4を行った。

実験4では、実験3に、記憶したパターンのみを学習させた第二特徴抽出機構を追加して、記憶検 索を行った。その結果、記憶検索の成功率が著しく上昇したことがわかった。ただし、収束まで にかかる平均の時間が、実験3に比べて高くなっているところが目立った。

実験5では、抑制値の更新に間隔を設けることで収束までにかかる時間を短縮することを試みた。 その結果、収束までにかかる時間は確かに短縮されらしいたことが確認できたが、記憶検索の成功率が下が ってしまった。

以上の実験により乱数や三角関数を用いることで、記憶しているパターンを動的に想起させ、 学習パターンに対して敏感な特徴抽出機構を追加することで記憶検索の成功率を高めることが できるとわかった。また、抑制値の更新に間隔を設けることで、収束までにかかる時間が少な くなることがわかった。

今後の課題としては、収束までにかかる時間の短縮と、高い検索成功率の両立があげられる。 特に、シナプス前抑制関数の抑制値に用いた数式の改良を行うことが挙げられる。 また、今回用いたパターンは完全なランダムパターンであるため、別のパターンでは検索成功率に 大きな変化があるのではないかと懸念される。



Deguchi Lab. 2017年3月6日