Next: 第5章周期信号の検出 Up: 第4章同期ニューラルネットワークにおける学習 Previous: 4.1 学習

4.2 学習原理

同期ニューラルネットワークにおける学習の原理を、次の様にする。

ニューロンは、パルスが出力される様に、信号の到達時間を変化させる。

これについて詳しく説明するために、図4.1の様な二つのニューロンから接続されているニューロンを例に挙げる。

図 4.1: ２入力のニューロン

このニューロンには図4.2の入力が過去に入ったものとする。ここでニューロンからとニューロンからの信号の周期を等しく考えるのは、外部からの入力はどのニューロンにも等しく入力されていてるので、同期ニューラルネットワークを巡る信号は全てこの外部入力に起因し、それらの信号の違いは位相だけであると考えられるからである。

この図より、パルスを出力させるためにはニューロンの出力を右に、ニューロンの出力を左にシフトして、ニューロンからとニューロンからのパルスのタイミングを合わせれば良いことがわかる。ここで出力を右にシフトすることは、信号の到達時間を大きくして信号が入ってくるタイミングを遅らせることを意味し、出力を左にシフトすることは、信号の到達時間を小さくして信号が入ってくるタイミングを早めることを意味する。

図 4.2: ニューロンCの入力

しかし、前節でニューロンは時間的にも空間的にも限られた情報しか参照することは出来ないと述べた。この方法では、ニューロンは空間的には局所的だが、時間的には遠い過去までの信号を参照していることになる。そこで、ニューロン内部に新たなパラメータを考え、それによって同様の結果が導ける様にする。

この新たなパラメータは、接続されているニューロン一つにつき一つ用意され、そのニューロンからの入力の総和を記憶する。入力の総和は過去のものほど重みが小さくなる様にする。これを式で表すと

となる。ここでm(t)が入力の総和、s(t)がニューロンからの入力、kは係数で 1未満である。kが1未満であるので過去の入力はkの累乗に比例して小さくなる。これは過去から現在までの入力に、指数関数的な重みをかけたものの和に等しい。これより、ニューロンが入力の総和m(t)の値しか知らない場合についての学習方法を考えてみる。

今、ニューロンからの入力の総和とニューロンからの信号の総和を比べた時、の方が大きかったとする。遠い過去に入力された信号の影響は小さく無視出来ると考えられるので、過去の入力は図4.3の様にニューロンからの方が遅く入力されたと予想される。しかしこれだけの情報では実際の入力が、図4.4の様にニューロンからのパルスが、ニューロンからのパルスのすぐ後に入力されたのか、また図4.5様にューロンからのパルスが入力されてから時間が経った後に入力されたのかはわからない。パルスが出力されるためには、図4.4の様ならばニューロンからの出力を右に、ニューロンからの出力を左にシフトした方が良いが、図4.5の様ならばニューロンからの出力を左に、ニューロンからの出力を右にシフトした方が良いため、図4.4、4.5どちらであるかという情報は必要である。