ニューロンとは、神経細胞のことである。 ニューロンは情報処理用に存在する細胞である。 図 2.1にニューロンの構造を示す。
ニューロンは本体の細胞体の部分と、 複雑に枝分かれした樹状突起と呼ぶ部分、 同じく本体から1本だけ出ていて、 末端で多数に枝分かれする軸索と呼ぶ部分の 三つに分けられる。 軸索とは細胞体本体からの信号を他のニューロンに 伝える出力用の繊維である。 樹状突起は他のニューロンからの信号を受けとる部分である。
枝分かれした軸索の末端部分は、 ボタン状の膨らみをつくって 他の神経細胞の細胞体や樹状突起に付着している。 この付着した結合部分をシナプスという。 軸索は十ないし数百に分岐しており、 シナプスを介して数多くの細胞につながっている。 また、1つの細胞が受けるシナプス結合の数は、 数百ないし数千、まれに数万に及ぶ。
通常のニューロン内部の生体電位は、外部に比べて低いが、シナプス より、他のニューロンから入力信号を受けとることで、電位が上がる。 そして、電位がある大きさに達すると、 ニューロンの内部電位が突然高くなる。 ある大きさとはしきい値を指している。この時、ニューロンは 「発火」又は「興奮」したといい、軸索にパルス電圧が伝わる。 出力されたパルスは他のニューロンの入力になる。 これはニューロンの最も基本的な性質であり、 この性質を用いた ニューロンモデルとして、マッカロ（McCulloch）と ピッツ（pitts）が提案したものを 図 2.2 に示す。
この図の 
は対象となるニューロンの i 番めの入力であり、
は i 番目の入力生体ニューロンのシナプス結合の強さを表す。
は1か0のパルス信号である。
はこのニューロンに対するしきい値であり、
これを越えると興奮し、越えなければ興奮しない。
yはこのニューロンの出力である。以上のことをもとにして、
式を導くことができる。
式(2.1)において、
は i 番めの入力のシナプス結合の強さを表し、
uを膜電位、もしくは内部ポテンシャルと呼ぶ。
i 番めの入力が来ると（すなわち 
）
ニューロンの膜電位が だけ変化することを示す。
が正であれば興奮性シナプスを、
負であれば抑制性シナプスを表し、また結合が
なければ 
である。また式(2.1)の
はしきい値を表し、
各入力にシナプスの重みを掛けた荷重和 
が
しきい値を越えた時のみ、ニューロンが興奮して電気パルスを出力する
（すなわち y=1）離散時間モデルである。
ニューロンモデルは、一種の多数決で出力を決める素子である。
但し,各入力 の一票の重みは であり、
この一票の各差を積極的に利用するものである。
この際,抑制性のシナプスはマイナスの票を投じることを意味する。
ニューロンモデルの各入力及び出力は、1又は0の値をとり、 1はニューロンが興奮・発火した状態、0は静止状態に各々対応する。 この様に、出力として0、1の二値をとるようなモデルを、 入力の総和がしきい値を越えた時のみ1を出力することから、 線形しきい値素子モデルという。図2.3にその出力関数を示す。
連続モデルの場合の f[u] の形はいろいろなものが考えられるが、 良く使われるのはシグモイド関数と呼ばれるものである。 シグモイド関数として有名なものは、
という形のものである。
