ニューロンは興奮すると軸索に信号（電気パルス列）を送り出し、 興奮していない時はほとんど出さないため、 この電気パルスを０と１に量子化された信号と考え、 非興奮状態である時送り出される信号を０、 興奮状態である時送り出される信号を１とする。 興奮、 非興奮は、 受けとった信号の重みつき総和が、 そのニューロン毎にもつしきい値とよばれる値を越えるかどうかによって決まり、 越えれば興奮状態（出力の信号は１）、 越えなければ非興奮状態（出力の信号は０）となる。 以上の定義をもとにニューロンのモデル化を行なう。
一つのニューロンが n 個のニューロンから入力を受けている時に、
i番目のニューロンの入力を 
（ 
）、
重みを 
とする。
すると i 番目のニューロンの入力は 
と表すことができる。
そして入力の重みつき総和は 
となる。
これがしきい値 
を越えるとそのニューロンは興奮すると考えるため、
ニューロンの出力 y は次式(2.1)で与えられる。
式（2.1）の中の関数 f は出力関数といい、
入力の重みつき総和からしきい値を減じた値を u（ 
）とおいて入力すると、
という出力を出す関数である。 今回は入力の重みつき総和がしきい値を越えれば１、 越えなければ０という２値モデルであるので図2.3に示すような階段関数とよばれる出力関数を用いる。
連続モデルの場合は出力関数には式（2.3）のような連続性のあるシグモイド関数と呼ばれるものを用いる。
シグモイド関数は、 図2.4のような入出力の関係を表し、 階段関数とは異なり、 入力が０の辺りは連続的で、 ０から離れるにつき１、あるいは−１に近付いていく特性をもつ関数である。
