ニューラルネットワークとは、ニューロンがシナプスによって互いに結合して一つのネットワークを構成したものである。 これはその構造から、階層型と相互結合型の二種類に大きく分けられる。
相互結合型ネットワークでは情報の流れは双方向的であり、フィードバックが許される。 このフィードバックのためにネットワーク全体の動作は複雑になる。 相互結合型ネットワークの概略図を図2.5に示す。
図2.6に示す階層型のニューラルネットワークでは、ニューロンの信号は一方通行になる。 入力信号は、それを受信した層から隣接する層のニューロンへと順番に伝搬して行く。