ニューロンの繋ぎ方として相互結合型や,図 2.4 のモデルに示されるような階層型がある。
図 2.4: 階層型ニューラルネットワーク
相互結合型はすべてのニューロンがお互いに結合している形状で, 階層型は図 2.4 のように入力層から中間層, 中間層から出力層へと結合している形状のネットワークである。 本実験では学習させる対象として時系列を用いているが, 時系列は出力を次の入力とするという方向性を持つため, 結合の形状に方向性のある階層型のニューラルネットワークを使うこととした。