そのある種の性質とは次の2点である。
(1)対称的な結合荷重値 を持つ
(2)各ニューロンは非同期的に動作する
非同期的な動作とは、状態が変化するのは一度に一つのニューロンだけという意味 である。
このような性質を持つ代表的なネットワークが、ホップフィールドネットワーク
である。
N素子のホップフィールドネットワークに対しk個のパターンを記憶させるときの
結合荷重値は、式 (2.4)のように表される。
また、出力関数は式 (2.5)を用いる。
ここで、 はパターンsのi番目の要素で、+1か-1の値をとる
ものとする。
式 (2.4)から、結合荷重は対称となり、値は1刻みで大きさは
までとなる。
このネットワークが記憶できるパターンの数は、約0.15N個であるといわれている。
エネルギー関数は、現在のネットワークの状態を知る方法として用いられる。 ホップフィールドらによって、このネットワークの状態は、 必ずエネルギー関数が減少する方向に変化することが示された。[2] エネルギー関数がどのような形状になるかは結合荷重分布など、ニューラル ネットワークの構造によって変わるが、一般に多数の極小点を持つ多安定関数になる。
図 2.6はネットワークの状態遷移の様子を表したもので、 黒い点が状態を表している。 このようなネットワークでは、状態は滑らかな凹凸を持つ曲面上を転がるボールの 動きと同様に、最終的には必ず曲面の谷(関数の極小点)に収束する。