ニューラルネットにおける連想記憶とは、図 4.1のようなものである。個のニューロンに
本の入力信号が加えられているニューラルネットを考える。
このようなモデルで、入力パターン
(
:ニューロン
の入力信号がとる値)と出力パターン
(
:ニューロン
の出力信号がとる値)の組が複数個
あって、上記の
個の入力パターンのうちの1つをニューラルネットに入力したときに、対応する出力パターンを出力するように、上記の入出力パターンを記憶することを連想記憶という。このときに連想記憶をニューラルネットが学習する過程を記銘過程と呼び、ニューラルネットが入力パターンを与えられることによって、なんらかの出力をすることを想起過程と呼ぶ。
連想記憶の中でも、記銘する入力パターンと出力パターンとが一致しているものを自己相関記憶、異なるもののことを相互相関記憶と呼ぶ。
相互結合型ネットワークの自己相関連想記憶のための学習法として、代表的なものに相関学習法と呼ばれるものがある。
また、以下で説明する逐次学習法も自己相関連想記憶のための学習法である。