ニューラルネットワークとエネルギー関数[2]

  神経回路網において、状態が時間と共にどう移り変わっていくのかを調べる方法として、エネルギー関数を用いたものがある。

対照的なシナプス結合 を持つニューラルネットワークにおいて、エネルギー関数が存在し、ニューラルネットワークの動作はこのエネルギーを減少させるように起こることが、ホップフィールド（Hopfield）らによって示された。 [3]

このニューラルネットワークの振る舞いは図2.7に示すように、一種の山下り法（最急降下法）で、滑らかな凹凸を持つ曲面上を転がるボールの動きと同様であり、最終的にはエネルギーの谷である曲面の窪み（図2.7の極小値AやB）に到達する。

  
図 2.7: エネルギー関数イメージ

エネルギー関数がどのような形状を持つかは、素子間の相互結合などのニューラルネットワークの構造に依るが、一般にエネルギー関数は多くの極小点を持つ多安定関数になる。 例えば、各極小点を記憶の内容と考えると、ボールが斜面を転がる過程は、記憶の内容を思い出す想起過程と考えることができる。 このような連想記憶メモリの検索時間は、記憶数に依らず一定であり、高速な読み出しが可能である。