ニューロンモデル[4]

脳にはいくつもの種類のニューロン（ニューロンモデルにおいてはユニットと呼ぶ）が存在していることが確認されており、単純な発火作用を持ったものから非常に複雑な発振作用をもったものまで存在している。 しかし、現段階でニューラルネットワークに用いられているモデルは、それらをFigure 2.2のように非常に単純化した、多入力1出力の素子が通常である。

図 2.2: Unit model

ニューラルネットワークにおいては、ユニット同士が互いに神経線維に対応する線で結ばれている。 また、実際のニューロン間のシナプス結合と呼ばれる結合と同様に、信号は一方向のみに伝わり、それぞれの結合部分に結合荷重$w_i$をつけられて、結合されたユニットに出力される。 この結合荷重が、ユニット同士の結合の度合いを表している。

このように重みが付いたそれぞれの入力値$w_ix_i$は、ユニットで総和$x$がとられ、閾値$\theta$によってニューロンの発火を判断する。この総和$x$の事を、そのユニットにおけるネット値と呼ぶ。ネット値が0より大きければ発火であり、0以下であれば発火していない。活性化関数$f$によって変換されて次のユニットへと出力される。 出力式を式（2.1）に示す。

$$\begin{array}{l} \displaystyle x = \sum_{i=1}^{n}{w_ix_i}-\theta\\ y = f(x) \end{array}$$ (1)

重みの値は、興奮性結合の場合は正の値、抑制性結合の場合は負の値を示す。また、この重みは学習することによって変化させることができる。 ユニットに入力された信号の総和$x$は関数$f$によって変換されるが、これは活性化関数（activation function）と呼ばれるもので、これについては幾つかのモデルが考案されている。