ニューロンのモデル化

ニューラルネットワークの始まりは、1943年にアメリカ合州国の精神生理学者で、外科医のマカ ロック(W.McCulloch)と、アメリカ合衆国の数学者であるピッツ(W.Pitts)が、生物のニュー ロンの特徴を数式でモデル化したことであると言われている。その特徴は、「多入力・多出力」 、「非線形性」である。以下では単にニューロンというと、生物の持つニューロンの事ではなく、 人工的にモデル化されたニューロンモデルのことを示す。

多入力・多出力とは、一つのニューロンへの入力は複数存在し、一つのニューロンの出力は他の複数 のニューロンへと伝えられるということである。なお、ここで言う多出力とは多数のニューロンへと 伝えられるということであり、出力が複数種類存在するわけではない。ニューロンの出力はそのニュ ーロンの入力から一意に決められる。伝播された各ニューロンの出力は、次のニューロンに入力され る時、重みがかかる。この重みは結合荷重と呼ばれる。結合荷重を調節し、与えられたデータに対す る出力をより適したものにする過程を、学習とみなすことができる。[1]

非線形性とは、各ニューロンは受け取った信号の総和がある閾値を超えたときのみ興奮し、一定の値を 示すということである。各ニューロンの出力は、他の多数のニューロンからの入力に比例した値を出力 するわけではない。

このニューロンモデルは、式(2.1)のように表せる。ここで使われている関数$f(x)$は 、引数$x$が正の数であれば1を、そうでなければ0を返す階段関数である。$\theta$は、そのニュ ーロンの閾値を示す。

$$\left\{ \begin{array}{l} y = f(u) \\ u = \sum_{i=1}^n(x_iw_i) - \theta \end{array}\right.$$ (1)