ホップフィールドネットは相互結合型ニューラルネットワークの一種で、
ニューロン間の結合荷重 
は式(4.1)で表される。
, 
は外部からニューロン i, j への入力で、0か1かの値をとる。
はニューロン j から i への結合荷重で、
M は学習させるパターンの最大数である。
始めに入力が与えられれば結合荷重は一意に決まるため、
一つのパターンを繰り返し入力に与えて学習させる必要はない。
想起には式(4.2)を用いる。
は時刻 t の時の i 番目のニューロンの出力を表し、
N はニューロンの総数である。
このネットワークの出力関数 f は2.1節で述べた
階段関数を用いる。
対称的なシナプス結合( 
)を持つある種の
ニューラルネットワークにはエネルギー関数が存在する。
一般にネットワークのエネルギー関数は多くの極小点を持つ
多安定関数である。ネットワークの状態は常にエネルギー関数の
谷に向かって変化し、最後には必ず極小点に辿り着くように動作する。
この一連の動作は、斜面を転がるボールの動きに例えることができる。
斜面がエネルギー関数、ボールがネットワークの状態である。
[1]
ニューラルネットを連想記憶に用いる場合、 エネルギー関数の谷は学習したパターンとなる、 ネットワークへの入力がすでに学習したパターンであった場合 ネットワークの状態はすぐにエネルギー関数の谷に到達して安定し、 出力はそのパターンに収束する。しかし、 入力が未知パターンであった場合ネットワークの状態は 学習したどのパターンにも向かうことができず、 出力が収束するまでには時間がかかる。
ホップフィールドネットはあらかじめ学習させたいパターンを ネットワークに与えてニューロン間の結合荷重を変更し、 想起時にはその結合荷重を用いて想起を行なう。 つまり学習過程と想起過程は分離されたものになっている。
