ニューラルネットワークとエネルギー関数

ポップフィールドらは、ニューロンの発火アルゴリズムと結合係数の組が定められた神経回路網に与えられる興奮パターンが変化して行く場合において、その変化に伴い減少して行くエネルギー関数が定義できるとした。さらに、その関数の極小値に達するときパターンは安定になるという神経回路網のダイナミクスを示した。この極小値に対応するパターンを記憶パターンとすれば、ネットワークは適当な刺激パターンから記憶パターンを想起する連想記憶装置となる。[2] このニューラルネットワークの状態は図2.6に示すように、一種の山登り法（最急降下法）で滑らかな凹凸を持つ曲面上を転がるボールの動きと同様に、最終的にエネルギーの谷である極小値に収束する。

図 2.6: エネルギー関数での振る舞い

エネルギー関数がどのような形状を持つかは、素子間の結合荷重分布などのニューラルネットワークの構造によるが、一般に、エネルギー関数は多くの極小点を持つ多安定関数になる。例えば、極小点をメモリの内容と考えると、ボールが斜面を転がる過程はメモリの内容を思い出す想起過程と考える事ができる。[1]