ニューロンとは

ニューロン（neuron）とは、生物の脳を構成する神経細胞のことである。 この神経細胞は、 核が存在する細胞体、ニューロンの入力である樹状突起、出力部分であるシナプス、 伝送路に当たる軸索からなり、図2.1 のような構造になっている。 人間の脳の場合にはこの細胞が100億から1000億程度あるといわれている。

図 2.1: 神経細胞の構造

これらの神経細胞は、立体的に多数集まって回路網を形成している。 一つ一つのニューロンは、他のニューロンから出力を受け取りシナプスで増減し、 それを足した値がある値を超えると出力し、他の結合されたニューロンに伝送する [2]。

ニューロンでは、神経インパルス（Nervous Impulse）と呼ばれる 電気パルスを生成し、これが出力となる。 この神経インパルスは神経細胞間で化学反応を介して行われるため、 そのパルス幅は、約1[ms]の遅延が生じる。 これは通常のデジタル電子回路に使われるパルスと比べると非常に低速である。 このパルスの出力は入力の合計が閾値より小さいと出力せず、 閾値を超えるとパルスを出力する。 出力するパルスの振幅は、入力値に関わらずほぼ一定である。 この特性は、全か無かの法則（all-or-none law）と呼ばれる。

このニューロンをモデル化したものが、図2.2 である[3]。

図 2.2: ニューロンの構造モデル

いま、一つの神経細胞が $n$ 個の細胞から入力を受けているとする。 シナプス前の細胞の出力を$x_i$ 、 $i$番目と$j$番目のシナプスの結合の強さを$w_{ij}$と表す。 シナプス結合の強さは、 結合荷重（connection weight）、重みなどと呼び、 その値が正であればそのシナプスは興奮性であり、負であれば抑制性となる。 最も単純には、 $i$番目の細胞から$j$番目の細胞への影響は$w_{ij} x_i$と表される。 各細胞からの影響が加算されたものが入力になり、これが閾値を超えたときに、 細胞が「発火」し、出力上で1の値をとる。 これを式で表すと。式(2.1)となる。

$$x_j(t) = f_s \left( \sum_{i=0}^{n-1} w_{ij} x_i(t) + \theta \right)$$ (2.1)

ここで、$f_s(u)$ はシグモイド関数であり、$n$ は入力の数、 $x_i$ は $i$ 番目のニューロンの出力、 $w_{ij}$ は $i$ 番目のニューロンから $j$ 番目のニューロンへの重み、 $\theta$ は閾値を表す。 シグモイド関数とは図2.3 に示されるような関数であり、 式(2.2)のように定義される。入力がある値より大きくなった場合に 1に近い値を出力し、小さければ0に近い値を出力する。 本来ニューロンは0か1の値しかとらないので 階段関数によって実現する方が適切であるが、 解析的に問題を解くためにはシグモイド関数のような微分可能な関数である必要がある。

$$f_s(u) = \frac{1}{1+\exp(-u)}$$ (2.2)

図 2.3: シグモイド関数