ニューロンのつなぎ方として相互結合型や， 図 2.4のような階層型などがある.
相互結合型はすべてのニューロンがお互いに結合している形状で， 階層型は図 2.4 のように入力層から中間層， 中間層から出力層へと結合している形状のネットワークである. 相互結合型と階層型を比べると， 各ニューロンが全て結合しているわけではないので 結合の数は階層型の方が少ない. 本実験では学習させる対象として時系列を用いているが， 時系列は出力を次の入力とするという方向性を持つため， 結合の形状に方向性のある階層型のニューラルネットワークを使うこととした.
