5.1 長名らの学習法

  長名らが提案した学習法は、全てのニューロンに安定条件が成立し変化量がしきい値を越え未知パターンと判断された時、全てのニューロンの結合荷重を一度に変化させ、学習を行なう。この学習法はネットワーク全体のニューロンの内部状態の情報から判断しているので広域的な学習法といえる。

この学習法では未知パターン・既知パターンを、入力に両者を与えた時のネットワークのダイナミクスの違いを変化量として表し判別する。カオスニューラルネットワークに既知パターンを与えるとそのパターンの近傍のみが探索されるのに対して、未知パターンを与えると学習しているパターンの間をカオス的に遍歴する。このダイナミクスの違いを全てのニューロン出力の変化の総和である変化量で表し判別を行なう。変化量は式(5.1)で表される。

 

式(5.1)はパターンが入力されてから になるまでの全てのニューロンの変化を足し合わせたもので、未知パターンが与えられたときにはカオス的遍歴を行なうので変化量は大きくなり、既知パターンの場合は素早く入力されたパターンを想起するので未知パターンよりも変化量は小さくなる。つまり、変化量があるしきい値 を越えた時、入力パターンが未知パターンであると判別する。 しかし、この学習法では入力されるパターンが変わるごとに内部状態をリセットして時間加算を零にする必要がある。なぜなら内部状態をリセットしないと入力されるパターンが既知パターンでも時間加算の影響で素早く入力されたパターンを想起できず、変化量がしきい値を越えて未知パターンと判別してしまうからである。

安定条件は式(5.2)で表され、ネットワークが安定したか判断するための式である。全てのニューロンの内部状態が、相互結合項 と不応性項 の和より、外部入力項 の影響が大きくなった時成立する。

 

この条件を全てのニューロンが満たすとネットワークが安定したと判断できる。なぜなら、入力されたパターンが既知・未知パターンどちらでも式(5.2)が成り立つ時には、相互結合項と不応性項の和より外部入力項の影響が大きくなっているため、ネットワークは入力されたパターンを想起し、それ以降はそのパターンを想起し続ける。そのため出力の変化はそれ以前までしか起こらず変化量はその時の値で一定となりネットワークが安定したと判断できる。安定条件が全てのニューロンに成立し、変化量がしきい値を越えた時、次式のように結合荷重 を変化させる。

 

結合荷重の変化に の時のニューロンの出力を使うことにより、入力にノイズが付加されていても正しいパターンを学習することができる。 なぜなら外部入力項を時間加算しているので、ノイズに偏りがなければ外部入力項は正しいパターンの影響を大きく受けるため、ネットワークが安定した時には正しいパターンを想起している。よって正しいパターンを学習することができる。

このように長名らが提案した学習法は、ネットワーク全体のニューロンの内部状態の情報から判断している広域的学習法であるため、本学習法では、個々のニューロンが単独で自分の内部状態から判断して、他のニューロンとの結合荷重を変化させて学習を行なう局所的学習法を提案する。なぜなら実際の神経細胞が回路網全体の様子を見る機構を学習のために持っているとは考え難いからである。