前節で述べたニューロンの構造や動作から具体的な数理モデルが数多く提案されてきた。 一般的には次の三つの事象を元にしてモデル化がなされている。すなわち、
McCulloch と Pitts はこれらのことから式(2.1) によって膜電位 を求め、式(2.2) によってニューロンの発火条件をモデル化した。
ここで、 は注目しているニューロンの出力であり、
はその膜電位である。
このニューロンには M 個のシナプス結合があると考えたとき、
はそこへつながるニューロン j の出力である。そして、
がシナプスの結合強度を表す。
が正の場合はシナプスが興奮性であることを示し、逆に負の場合は抑制性であることを示す。
は閾値である。
式(2.2) の はステップ関数といい、単純に閾値を越えたか越えていないかで1または0の値をとるものである。
これを、図2.2 に示す。
このニューロンモデルでは、単純に前段のニューロン出力がシナプス結合強度と乗算され、それが加算されて膜電位が決められる。 そして、全か無かの法則に従い発火の有無によって出力が1または0となる。 このような出力が二つの値のみをとる モデルを2値モデルという。
一方で、目的や場合によっては、出力が連続的なある範囲内の値をとるような連続値モデルも使用される。 これは、2値モデルのようにインパルスを直接表現するのではなく、インパルスの発生頻度つまり信号の強弱を表現するものとなる。 連続値モデルを使ったニューロンモデルを図2.3 に示す。
ここでは、膜電位から出力を決定する関数 x = f(u) として、一般的に使用されている式(2.3) に示すシグモイド関数を使う。
この関数を図2.4 に示すが、その形は2値モデルで使用した図2.2 のステップ関数の角をとって滑らかにしたものになっている。
そして、式(2.4) に示すように関数の微分形がその関数自身で簡単に表せることも大きな特徴である。
なお、パラメータ は、u = 0 付近での関数の立ち上がりの急峻さを示し、この値が小さいほど傾きが急になり、
でステップ関数と同じ形になる。