ニューラルネットワークはニューロンがシナプスによって 互いに結合し、一つのネットワークとなったものであり、 日本語でいうならば神経細胞が結合した神経回路網のことである。 ニューラルネットワークはそのニューロンの結合のしかたによって 大きく二つに分類できる。
一つはニューロン同士が互いに結合している形である 相互結合型ネットワークと呼ばれるものである。 もう一つは、ニューロンの結合が一方向で、 層をなしているような形である階層型ネットワークと 呼ばれるものである。 図2.5に相互結合型ネットワーク、 図2.6に階層型ネットワークのモデル図を示す。
相互結合型ネットワークでは、情報の流れは双方向的で、 ニューロンは自分の出力を伝えた相手のニューロンからも 情報を受けとることができる。このようなネットワークでは、 自らの出力が別のニューロンを経て、再び自分への入力として 戻ってくること（フィードバック）があるため、 ネットワーク全体の動作は複雑になる。
階層型のネットワークでは、ニューロン間の情報の流れは 一方向で、入力層のニューロンへの入力が定まれば、 後は次段へと順に伝播していくだけである。 三層型のネットワークであれば、ネットワークへの 入力が入力層への入力、入力層からの出力が 中間層への入力、中間層からの出力が出力層への入力であり、 出力層からの出力がネットワークの出力となる。
本研究では階層型ネットワークを用いる。またその応用として、 １つのネットワークに２つのアトラクタを学習させるために 当研究室の提案する内部記憶を持たせたニューラルネットを 用いる。このネットワークに関する説明は学習法と併せて第４章で行なう。
