ニューラルネットワークとは、ニューロンがシナプスによって互いに結合し、一つのネットワークを構成したものである。 ニューラルネットワークはその構造によって階層型と相互結合型の二種類に大きく分けられる。
相互結合型ネットワークでは、情報の流れは双方向的であり、フィードバックが許される。 このフィードバックのため相互結合型ネットワークの状態は処理される度に変化し、全体として動作が複雑となる。 相互結合型ネットワークの概略図を図2.4に示す。
階層型ネットワークでは、ネットワークが入力層、中間層、出力層の階層に別れており、同じ階層のニューロンは結合していない。 そのためニューロンの信号は一方通行となり、信号を受け取った層は順番に隣接する層のニューロンへと伝搬してゆく。 階層型ネットワークの概略図を図2.5に示す。