ニューラルネットワークとは，ニューロンがシナプスによって互いに結合し， 1つのネットワークを構成したものである． ニューラルネットワークはその構造によって階層型と相互結合型の２種類に大きく分けられる．
相互結合型ネットワークでは，情報の流れは双方向的であり， フィードバックが許される． このフィードバックのためネットワーク全体の動作は複雑になる． 相互結合型ネットワークの概略図を図2.5に示す．
図2.6の階層型のニューラルネットワークでは，ニューロンの信号は一方通行で，信号を受けとった層は順番に隣接する層のニューロンへ伝搬してゆく．
