ニューラルネットワークとは、ニューロン同士がシナプスを結合させることによってできるネットワークのことである。ニューラルネットワークはその構造によって階層型と相互結合型の二種類に大きく分けられる。 階層型ネットワークは、入力層、出力層、とその間に1つ以上の中間層を持つ構造をしている。その構造を図2.4に示す。ニューロンの信号は一方通行となり、信号を受け取った層は次の層のニューロンへ順番に伝搬してゆく。
相互結合型ネットワークは、お互いのニューロンが対等に結合されている。ネットワークの構成要素である各ニューロンは他のすべてのニューロンと結合しているため、情報の流れは双方向的であり、フィードバックが許されている。このため相互結合型ネットワークの状態が変化するたびに全てのニューロンへ影響するので複雑になる。相互結合型ネットワークの概略図を図2.5に示す。