ニューラルネットワークはニューロンがシナプスによって互いに結合し， 一つのネットワークを構成したものである。 ニューラルネットワークは， その結合の仕方によって， 図 2.4 の相互結合型のネットワーク， 図 2.5 の階層型のネットワークの 大きく二つに分類される。
この二つの図において， 矢印は結合の向きを表し， 図 2.5 の点線の囲みは， それが一つのまとまった層であることを示している。
相互結合型ネットワークでは， 情報のながれは双方向的で， ニューロンは自分の出力を伝えた相手のニューロンからも 情報を受けとることが許されている。 このようなネットワークでは， 自分の出力が別のニューロンを経て， 再び自分への入力として戻ってくること （フィードバック）があるので， ネットワーク全体の動作は複雑になる。
階層型のニューラルネットワークでは， ニューロン間の情報（信号）のながれは一方通行で， 入力層のニューロンへの入力が決まれば， 後は順番に隣接する層のニューロンへ情報が伝搬していく。 三層型のネットワークでは， ネットワークの入力が入力層の入力となり， 入力層の出力が中間層への入力となり， 中間層の出力が出力層への入力となり， 出力層の出力がネットワークの出力となる。
