ニューラルネットワークは、ニューロンがシナプスによって互いに結合し一つのネットワークとなったものであり、日本語で説明すれば神経細胞が結合した神経回路網ということになる。しかし、単にニューラルネットワークといってもニューロン間の結合の様子にしたがって分類すると、図2.4の相互結合型、図2.5の階層型の二種類に分類できる。
この二つの図において、 矢印は結合の向きを表し、 点線の囲みは、 それが一つのまとまった層であることを表す。
相互結合型ネットワークでは、情報のながれは双方向的で、 ニューロンは自分の出力を伝えた相手のニューロンからも 情報を受けとることが許されている。 このようなネットワークでは、 自分の出力が別のニューロンを経て、 再び自分への入力として戻ってくること （フィードバック）があるので、 ネットワーク全体の動作は複雑になる。
階層型のニューラルネットワークでは、 ニューロン間の情報（信号）のながれは一方通行で、 入力層のニューロンへの入力が決まれば、 後は順番に隣接する層のニューロンへ情報が伝播していく。 三層型のネットワークでは、 ネットワークの入力が入力層の入力となり、 入力層の出力が中間層への入力となり、 中間層の出力が出力層への入力となり、 出力層の出力がネットワークの出力となる。
