カオスニューラルネットワーク

カオスニューロンの相互結合で構成されたネットワークを カオスニューラルネットワークと呼ぶ。 一般にニューロンのモデルを考えるにあたっては、

• ニューラルネットワークの外部からの入力
• ニューラルネットワーク内の他のニューロンからの フィードバック入力(相互作用)

の双方を考慮する必要がある。 なぜならば、そのような設定でニューロンモデルを作っておけば、 その素子を用いて任意のアーキテクチャのニューラルネットワークを 構成できるからである。

このような観点から、単純な法則がカオスを含む複雑な応答特性を生み出す カオスニューロンモデルで構成されたカオスニューラルネットワークというものを考える。 カオスニューラルネットを構成する $i$ 番目のニューロンの入出力の様子を、 図 3.1 に示す。ここで各ニューロンは、

図 3.1: カオスニューロンモデル

1. ネットワーク外部からの時空間入力
2. ネットワーク内のニューロンとの相互作用による 時空間フィードバック（相互作用）入力
3. 不応性の時間的加算効果

を有すると仮定する。 これらの値を調節することによって、 多様なネットワークダイナミクスが生み出される。 $i$ 番目のカオスニューロンの入出力特性は式(3.1) で与えられる。

$$x_i(t+1) = f\left(\sum_{j=1}^{M}v_{ij}\sum_{d=0}^{t}k_{e}^{... ...d) -\alpha\sum_{d=0}^{t}k_{r}^{d}x_{i}(t-d)-\theta_{i}\right)$$ (3.1)

ここで

$x_i(t+1)$ : $i$番目のカオスニューロンの時刻$(t+1)$における出力値

$M$ : 外部からの入力総数

$k_e$ : 外部入力項に対する時間減衰定数( $0 \le k_e \le1$)

$k_f$ : 他のニューロンからのフィードバック入力項に対する時間減衰定数( $0 \le k_f \le1$)

$k_r$ : $i$番目ニューロン自身の不応性の時間減衰定数( $0 \le k_r \le1$)

$A_j(t-d)$ : 時刻($t-d$)における$j$番目の外部入力値

$N$ : ニューラルネットワークを構成するカオスニューロンの総数

$v_{ij}$ : 外部入力$A_j(t)$から$i$番目のカオスニューロンへのシナプス結合係数

$w_{ij}$ : j番目のカオスニューロンから$i$番目のカオスニューロンへのシナプス結合係数

$\alpha$ : 不応性項をスケーリングするパラメータ

$\theta_i$ : $i$番目ニューロンのしきい値

式(3.1) のカオスニューロンモデルは、 実際の生物のニューロンが有する軸索小丘部のアナログ的出力関数、 多数の外部入力やフィードバック入力の時空間的荷重および 神経膜の不応性をモデル化したものである。

式(3.1) の $i$ 番目のカオスニューロンモデルの ダイナミクスは、それと等価で数値計算が容易な以下のような3つの内部状態変数 $\xi_i,\eta_i$及び$\zeta_i$ のダイナミクスに書き換えることができる。

$$\xi_i(t+1) = k_e\xi_i(t)+\sum_{j=1}^{M}v_{ij}A_j(t)$$ (3.2)

$$\eta_i(t+1) = k_f\eta_i(t)+\sum_{j=1}^{N}w_{ij}x_j(t)$$ (3.3)

$$\zeta_i(t+1) = k_r\zeta_i(t)-\alpha x_i(t)-\theta_i(1-k_r)$$ (3.4)

$\xi_i(t)$ : $i$番目ニューロンにおける外部入力に関する内部状態項

$\eta_i(t)$ : $i$番目ニューロンにおけるネットワーク内の他のニューロンからの 　　　　　　　　　　フィードバックに関する内部状態項(相互結合を表す項)

$\zeta_i(t)$ : $i$番目ニューロンにおける不応性に関する内部状態項

ここで、式(3.2),(3.3),(3.4) はおのおの 式(3.1)右辺の関数 $f$ の( )内の第1項,第2項, および第3,4項に対応する $i$ 番目のカオスニューロンの内部状態変数で、 以下のように定義される。

$$\xi_i(t+1) = \sum_{j=1}^{M}v_{ij}\sum_{d=0}^{t}k_{e}^{d}A_j(t-d)$$ (3.5)

$$\eta_i(t+1) = \sum_{j=1}^{N}w_{ij}\sum_{d=0}^{t}k_{f}^{d}x_j(t-d)$$ (3.6)

$$\zeta_i(t+1) = -\alpha\sum_{d=0}^{t}k_{r}^{d}x_i(t-d)-\theta_i$$ (3.7)

上式(3.5) 〜式(3.7) で定義した 各項の和をニューロンの内部状態 とすると、$i$ 番目のニューロンの出力は式(3.8) で表される[4]。

$$x_i(t+1) = f(\xi_i(t+1)+\eta_i(t+1)+\zeta_i(t+1))$$ (3.8)

ここで、関数 $f$ は式(2.2) で表されるようなシグモイド関数とする。

また式(2.2),(3.2),(3.3),(3.4) を視覚的に表すと図 3.2 のようになる。

図 3.2: 内部状態を考慮したカオスニューロンモデル