ニューラルネットワークとは、ニューロンがシナプスによって互いに結合し、 1つのネットワークを構成したものである。 ニューラルネットワークはその構造によって階層型と相互結合型の2種類に大きく分けられる。
相互結合型ネットワークでは、情報の流れは双方向的であり、フィードバックが許される。このフィードバックのためネットワーク全体の動作は複雑になる。相互結合型ネットワークの概略図を図2.5に示す。
図2.6の階層型のニューラルネットワークでは、ニューロンの信号は一方通行で、信号を受けとった層は順番に隣接する層のニューロンへ伝搬してゆく。