next up previous contents
Next: 実験 Up: ニューラルネットワークの学習 Previous: 連想記憶

逐次学習法

  逐次学習法とは、浅川によって提案されたカオスニューラルネットワークに対する 学習法であり、4.2節に示した一般的な連想記憶とは異なり、 記銘過程と想起過程とを分離しない。 逐次学習法では、ネットワークに逐次的にパターンを入力していき、ニューロンは 入力されたパターンが未知か既知かを判断し、学習を行なうか決める。

逐次学習法では、個々のニューロンが自分の内部状態から判断して, 学習条件を満たす時のみ結合荷重を変化させる。[5]

逐次学習法におけるニューロンの学習条件は次の通りである。

  equation327

逐次学習法において、ニューロンはこの学習条件を基に、入力されたパターンが 未知であるか既知であるかを判断する。 ネットワークに既知パターンを入力したとき、相互結合の符号は外部入力の項と 同じになる。 このとき、相互結合によるネットワーク全体が極小点に向かおうとする力と、 外部入力による入力パターンを出力しようとする力が同じ向きに働き、素早く パターンが想起される。 未知パターンが入力された時は、相互結合の項の符号は全てのニューロンで 外部入力と一致するわけではなく、学習条件が成立する。 結合荷重値の変化は、相互結合の項のみに影響を及ぼし、相互結合の力の向きを正しく する。 学習条件に不応性の項が含まれるのは、相互結合の項の大きさが不応性項より 小さい時も学習させ、記憶を深めるためである。

学習条件が成立した時の結合荷重値の変化はヘッブの学習則に基づき、 次のように行なう。

equation336

学習条件が成立しているとき、入力されているパターンは未知であることから、 ニューロンの出力を外部入力と一致させる必要がある。 そこで、相互結合の向きを正しく、不応性項より大きくするように結合荷重値を 変化させ、外部入力と出力の値を合わせる。

tex2html_wrap_inline1635 であるとき、i番目のニューロンに出力させたい 値とj番目のニューロンの出力が同じ向きであるため、結合荷重値を tex2html_wrap_inline1641 加算して、j番目のニューロンがi番目のニューロンの出力を、 自分の出力と一致させようとする働きを強める(協調作用)。

tex2html_wrap_inline1647 であるとき、i番目のニューロンに 出力させたい値とj番目のニューロンの出力が逆の向きであるため、結合荷重値を tex2html_wrap_inline1641 減算して、j番目のニューロンがi番目のニューロンの出力を、 自分と異なる方向にしようとする働きを強める(競合作用)。



Deguchi Lab.