ニューラルネットワークとは、脳の基本素子であるニューロンが シナプスによって数多く結合したネットワークのことである。 ニューロン単体の機能はごく単純で、1つのニューロンの動作だけでは その能力は限られている。 しかし、これらのニューロンが集まって 互いに結合し合うことでパターン認識、パターン検出など 多様な機能を持ち反応を示すようになるわけである。
ニューラルネットワークはその構造によって、次のように大きく2つに分けれる。
相互結合型ネットワークの概略図を図 2.4 に、 また階層型ネットワークの概略図を図 2.5 に示す。 この2つのネットワークにおける大きな相違点は、 ニューラルネットワーク内部におけるフィードバック(帰還)の有無である。 つまり、ある1つのニューロンからの出力がいくつかのニューロンを伝わって、 再び元のニューロンへ入力として戻ってくるかどうかである。