ニューロンは多入力-1出力の非線形素子である。ここでは1943年、マッカロとピッツが提案したニューロンモデルを図2.2に示す。[4]
ここで 
は、このニューロンに対するi番目の入力であり、 
はi番目の入力に対する結合荷重である。 
は、このニューロンに対する閾値である。yは、このニューロンの出力である。以上のことを基にして、次のような式を導くことができる。
式(2.1)において、 はi番目の入力のシナプス結合の強さを表し、i番目の入力が来ると（すなわち 
)ニューロンの膜電位が だけ変化することを示す。 が正であれば興奮性シナプスを、負であれば抑制性シナプスを表し、また結合がなければ 
である。また式(2.1)の はしきい値を表し、各入力にシナプスの重みを掛けた荷重和 
がしきい値 を越えたときのみ、ニューロンが興奮して電気パルスを出力する（すなわちy=1）離散時間モデルである。ニューロンモデルは、一種の多数決で出力を決める素子である。ただし、各入力 の一票の重みは であり、この一票の格差を積極的に利用するものである。この際抑制性のシナプスは、マイナスの票を投じることを意味する。
ニューロンモデルの各入力および出力は、1または0の値をとり、1はニューロンが興奮 
発火した状態、0は静止状態に各々対応する。
このように、出力として0、1の二値をとるようなモデルを、
入力の総和がしきい値を越えた時のみ1を出力することから、
線形しきい値素子モデルという。図2.3にその出力関数を示す。
連続モデルの場合の f[u] の形はいろいろなものが考えられるが、良く使われるのはシグモイド関数と呼ばれるものである。 シグモイド関数として有名なものは、
という形のものである。
