ホップフィールドネットワーク

ホップフィールドネットワークとは, リカレント型の構造を持つニューラルネットワークである。 ホップフィールドネットワークは以下の等式を満たし, 各ニューロンが非同期的に動作するもののことである。

$$w_{ij} = w_{ji}$$ (3)

$w_{ij}$ $i$ 番目のニューロンから$j$ 番目のニューロンへの結合荷重

ホップフィールドネットワークに$k$ 個のパターンを記憶させる場合に設定される 各ニューロンの結合荷重は以下の式で表される。

$$w_{ij} = \sum_{s=0}^{k-1} x_i^{(s)} x_j^{(s)}$$ (4)

$x_i^{s}$ パターン$s$ の$i$ 番目のニューロンの状態

また, ホップフィールドネットワークが記憶できるパターン数は, 素子数の約0.15倍であるとされている。

ホップフィールドネットワークにはエネルギー関数が存在する。 ホップフィールドネットワークは初期状態が与えられた後, エネルギー関数を小さくする方向へと動作し収束する。 この動きは, Figure 2.5でのボールの動きで例えられる。 このエネルギー関数は一般に極小値を複数持つ関数であり, ホップフィールドネットワークが収束する点, つまり記憶していられる情報数も同様に複数ある。

図 2.5: Energy function of neural network