ニューロン(neuron)とは、生物の脳を構成する神経細胞の事である。 この神経細胞は、図2.1 のような構造になっている。 この図では細胞が2個しかないが、 例えば人間の脳の場合、およそ100億から1000億程度 あるといわれている。
これらの神経細胞は、3次元に多数集まって回路網を形成している。 一つ一つのニューロンは、他の多数のニューロンの出力を受けとり、 シナプスで増減し、 それを足した値がある値を超えると出力し、他の多数のニューロンに伝送する。 その入力部分を樹状突起、出力部分をシナプス、伝送路に当る部分を軸索という。
ニューロンは、神経インパルス(Nervous Impulse)と呼ばれる 電気パルスを生成し、これが出力となる。 この神経インパルスは神経細胞間で化学反応を介して行われるため、 そのパルス幅は、約1[ms]の遅延が生じる。 これは通常のディジタル電子回路に使われるパルスと 比べると、とても低速である。 このパルスの振幅は、入力値に関わらずほぼ一定である。 では、入力は出力に影響しないのかというと、そうではなく 入力の合計が閾値より小さいと出力はなく、閾値を超えるとパルスを出力する。 この特性は、全か無かの法則(all-or-none law)と呼ばれる。
これをモデル化したものがニューロンである。 これは、 図2.2 のような構造になっている。
いま、1つの神経細胞がn個の細胞から入力を受けているとする。
シナプス前細胞の出力を (i<i<n)、
それぞれのシナプス結合の強さを
と表し、
シナプス荷重(synaptic weight)と呼ぶ。
この値が正であればそのシナプスは興奮性であり、負であれば抑制性である。
もっとも単純には、
j 番目の細胞がi番目の細胞から受ける影響は
と表される。
各細胞からの影響が単純に加算されたものが入力になり、
この和が閾値を越えたときに、細胞が「発火」し、出力上で1の値をとる。
これを式で表すと、式(2.1)となる。
ここで、 は単位ステップ関数であり、m は入力の数、
はi番目のニューロンの出力、
はi番目のニューロン
からj番目のニューロンへの重み、
は閾値をあらわす。