ニューラルネットワークとは、ニューロン同士がシナプスによって結合しあい、一つのネットワークを構成したものである。 このニューラルネットワークはその構造によって階層型と相互結合型の二種類に大きく分けられる。
相互結合型ネットワークでは、互いのニューロンが対等に結合されている。 ネットワークを構成しているニューロンは、自分以外の全てのニューロンと結合している。 そのため情報の流れは双方向的であり、フィードバックが許される。 このフィードバックのためにネットワークの状態は処理が行われる度に変化するため、全体として動作が複雑となる。 相互結合型ネットワークの概略図を図2.4に示す。
階層型ネットワークでは、入力層、中間層、出力層という3つの階層に別れた構造をしている。 また各ニューロンは同じ階層のニューロンとは結合していない。 そのためニューロンの信号は一方通行となり、信号を受け取った層は順番に隣接する層のニューロンへと伝搬してゆく。 階層型ネットワークの概略図を図2.5に示す。