相互結合型ネットワークは概念的に示すと 図2.6 のような構成を している。
このネットワークでは、全てのニューロンが適当に散在しており、適当なニューロンとニューロンの間に単方向または双方向の結合が存在している。 そのため、あるニューロンが出力した情報は、他のニューロンを経由して加工され、いくつかの単位時間の後に再び元のニューロンの入力として戻ってくる場合があるわけである。 これをフィードバックといい、これによってネットワークの動作が複雑になる。
具体的なモデルとして代表的なものが 図2.7 に示すホップフィールドネットワークで、これは全てのニューロンが互いに双方向結合されているものである。 つまり、ある一つのニューロンの入力には自分自身を除く他の全てのニューロンの出力が結合されているネットワークということである。
このモデルは主に、相関学習による連想記憶などに用いられている。
