ニューラルネットワークとは多数のニューロンがシナプスによって互いに結合して 1つのネットワークを形成したものである。
ニューラルネットワークは、その結合形態によって大きく2種類に分類できる。
図 2.4に示す相互結合型のネットワークは ニューロン同士の結合が双方向で、 自分の出力を伝えた相手のニューロンからも情報を受けとることができる。 自分の出力が他のニューロンを経て戻ってくるフィードバックがあるので ネットワーク全体の動きはより複雑化する。
一方、図 2.5に示す階層型のネットワークは ニューロンの結合が階層的に分かれており、 ある層の出力は階段的に次の層ヘと伝わっていく。 同じ層にあるニューロン同士には結合が無く、ニューロンは前の層 からの入力を合計して、出力を次の層へ伝える。 ネットワークへの入力が入力層に入り、 いくつかの中間層を経て出力層に出力されたものが ネットワークの出力となる。
