連想記憶

 

図 4.1 のように， があるとき， これから連想されるものをそれぞれ とする. 例えば，X から連想されるものを知りたい場合，この X と を 順に比較する. そして， であれば， が目的のものとわかる. しかし，この方法では，X と等しいものがなかったり， の記憶が破壊された場合は，出力を得ることができない. また，n が大きくなるにつれ，比較する平均回数が増えるので， 検索時間も増加する. そこで，これらの欠点を考慮した，ニューラルネットによる連想記憶について述べる.

  
図 4.1: 従来の連想の方法

連想記憶モデルは 1970 年代の始めに Nakano(1972)，Kohonen(1972)，Anderson(1972) の 3 者によって同時期に，しかも独立に提案された. 3 者のモデルにはそれぞれ特色があるが，ここでは，特定のモデルに偏らずに， 3 者のモデルに共通するような基本原理について説明する[###1#].

ニューラルネットにおける連想記憶とは，一般に次のようなものである. 図 4.2 のように， N 個のニューロンに M 本の入力信号が加えられているニューラルネットを考える.

  
図 4.2: 連想記憶のニューラルネットの構造

入力パターン = （ :入力信号 j がとる値） と出力パターン（想起パターン） = （ :ニューロン i の出力信号がとる値）の組が複数個 あって， 上記の P 個の入力パターンの内の 1 つをニューラルネットに入力した時に， 対応する出力パターン（つまり入力パターン に対しては 出力パターン ）を出力するように， 上記の入出力パターンを記憶することを連想記憶という. また，連想記憶が学習する過程を記銘過程と呼び，神経回路網が入力パターンを 与えられることによって，何らかの出力をする過程を想起過程と呼ぶ.

記銘する入力パターンと出力パターンとが一致\ している連想記憶のことを 自己相関記憶，異なる連想記憶のことを相互相関記憶とよぶ. 自己相関記憶では，入力パターンと出力パターンとの組を複数個記憶するのでなく， 単純に復数個のパターンを記憶することになる.

自己相関記憶は次のような意味をもつ. いくつかのパターンを記憶した後， どのパターンとも正確には一致しないが，どれかのパターン と 最も近い入力 をニューラルネットに与えるとする. そのとき そのものを出力すれば，パターン から パターン を「連想」したことになる. このことを人間の脳の機能にあてはめると，例えば， 複数の文字の形を覚えている状態で， 形の崩れた文字を見せたときに，その文字がなんであるのか， 記憶しているものから最も近いものを答えることに相当する.

本節の最初に述べたように，従来の方法では対処できない点がいくつかあった. しかし，ニューラルネットにおける連想記憶では，次のような特徴を持っているので， この点を解消することができる.

1. 分散多重記憶  
2. 記憶の取り出し方が並列的  
3. 誤り訂正能力  

以上の特徴について，従来の方法と比較しながら説明する.

(3) は，記憶する複数の入出力パターンの組の情報がそれぞれ， ニューラルネットのシナプス全体に分散され， 各々の情報が重なって記憶されることを意味する. そのため，ニューラルネットが局所的に壊れても， 1 つの入出力パターンの組がまるごと記憶から失われることはない.

(3) は，(3) のようにシナプス全体に重なって 記憶されるために，記憶するパターンの組の数が増えても， 従来の方法で比較する回数が増えるように， 出力パターンを取り出すまでの動作は増えない.

(3) は，曖昧な入力パターンから正しい出力パターンを想起する能力の ことである. これは，ニューロンにしきい値作用を持たせた場合に持つ能力である. 自己相関記憶のところでも説明したように， 入力したパターン に近いパターン が連想する 出力パターン を想起する.