ニューロンモデル

ニューロンの機能を満たすモデルとして、 マッカロ（W.S.McCulloh）とピッツ（W.Pitts）は図 2.2のようなニューロンモデルを提案した。

図 2.2: ニューロンのモデル

ここで示した $x_i$ はニューロンが受け取る $i$ 番目のシナプス前細胞の出力、 すなわちニューロンの入力のことである。 $\theta$ は興奮のしきい値、 $w_i$ はシナプス結合荷重、 $y$ は出力値である。 このモデルでは、ニューロンの位置関係や構造、シナプスの構造や機能などの影響因子で決まるニューロン間の信号の伝わり方を、 シナプス結合荷重というパラメータに押し込めて表現をしている。 以上のことを元にすると以下のような式を導くことができる。

$$u = \sum_{i=0}^{n}{w_ix_i}-\theta$$ (2.1)

$$y = f(u)$$ (2.2)

式(2.1)における $u$ は膜電位の変化量である。 つまり、各入力にシナプス結合荷重を掛け合わせたものがしきい値 $\theta$ を超えたときに、ニューロンは興奮状態になる。 このモデルの場合、入力や出力は興奮状態である1と非興奮状態である0の離散的な値であり、式(2.3)のように与えられている。

$$f(u) = 1(u) = \left\{ \begin{array}{@{\,}ll} 1 & \mbox{($u > 0$)}\\ 0 & \mbox{($u \le 0$)} \end{array} \right.$$ (2.3)

この式(2.3)の出力関数を図 2.3に示す。

図 2.3: ニューロンの出力関数（階段関数）

連続モデルである場合、 $f(u)$ は図 2.3以外にも考えることができるが、 式(2.4)のような関数はシグモイド関数と呼ばれ、 全領域で微分可能であり、かつ、常に有限な出力を出すため、よく用いられている。 このシグモイド関数を図 2.4に示す。

$$f(u) = \frac{1}{1+\exp(-u)}$$ (2.4)

図 2.4: シグモイド関数