ニューロンは多くの入力を受けて一つの出力を発生することから、 多入力一出力の素子であるといえる。ニューロンは他のニューロンからの 信号を受けとり、それを重み(荷重)つきという形で総和し、 その結果で発火するかしないかが決まる。この重みとは 「どの程度の割合で、他のニューロンの出力を 受けとったニューロンの入力とするか」という値である。 重みはニューロン間それぞれによって異なる値をとる。
ここでニューロンの数理モデル化を行ない説明をする。
一つのニューロンが n 個のニューロンから入力を受けているとする。
i番目のニューロンの入力を (
)、
重みを
とすると、i 番目のニューロンの入力は
と表すことができる。
ここで簡単のために各細胞からの入力
が
単純に加算されたもの(
)が
ニューロンの出力の総和となるとする。
これがしきい値
を越えた時に、
ニューロンが興奮するものと考える。
これを図にすると図2.2のようになる。
式(2.1)、(2.2)は、
他のニューロンからの出力に
重みをかけ、その総和をとり、しきい値 を引いたものが、
内部ポテンシャルuであることをあらわしている。
これに出力関数fを施したものが出力yとなる。
出力関数fは一般に単調非減少関数である。
入力 、出力yのとり得る値としては、
二値のみを許すモデルや実数値を許すモデルもある。
二値モデルの場合の出力関数は、式(2.3)で定義され、 図2.3のような階段関数となる出力関数を用いる。
連続モデルの場合は出力関数には主に 式(2.4)で定義され、 図2.4のように連続性のある シグモイド関数と呼ばれるものを用いる。