next up previous contents
Next: 学習法 Up: カオスニューラルネットワーク Previous: カオスニューロンモデル   目次

カオスニューラルネットワーク

カオスニューロンの相互結合で構成されたネットワークを カオスニューラルネットワークと呼ぶ。 一般にニューロンのモデルを考えるにあたっては、

の双方を考慮する必要がある。 なぜならば、そのような設定でニューロンモデルを作っておけば、 その素子を用いて任意のアーキテクチャのニューラルネットワークを 構成できるからである。

このような観点から、単純な法則がカオスを含む複雑な応答特性を生み出す カオスニューロンモデルで構成されたカオスニューラルネットワークというものを考える。 カオスニューラルネットを構成する $i$ 番目のニューロンの入出力の様子を、 図 3.1 に示す。ここで各ニューロンは、

図 3.1: カオスニューロンモデル


\includegraphics[scale=0.7]{fig/chaos_neuron.eps}

  1. ネットワーク外部からの時空間入力
  2. ネットワーク内のニューロンとの相互作用による 時空間フィードバック(相互作用)入力
  3. 不応性の時間的加算効果
を有すると仮定する。 これらの値を調節することによって、 多様なネットワークダイナミクスが生み出される。 $i$ 番目のカオスニューロンの入出力特性は式 3.1 で与えられる。


\begin{displaymath}
x_i(t+1) = f\left(\sum_{j=1}^{M}v_{ij}\sum_{d=0}^{t}k_{e}^{...
...d)
-\alpha\sum_{d=0}^{t}k_{r}^{d}x_{i}(t-d)-\theta_{i}\right)
\end{displaymath} (3.1)

ここで

$x_i(t+1)$ : $i$番目のカオスニューロンの時刻$(t+1)$における出力値

$M$ : 外部からの入力総数

$k_e$ : 外部入力項に対する時間減衰定数( $0 \le k_e \le1$)

$k_f$ : 他のニューロンからのフィードバック入力項に対する時間減衰定数( $0 \le k_f \le1$)

$k_r$ : $i$番目ニューロン自身の不応性の時間減衰定数( $0 \le k_r \le1$)

$A_j(t-d)$ : 時刻($t-d$)における$j$番目の外部入力値

$N$ : ニューラルネットワークを構成するカオスニューロンの総数

$v_{ij}$ : 外部入力$A_j(t)$から$i$番目のカオスニューロンへのシナプス結合係数

$w_{ij}$ : j番目のカオスニューロンから$i$番目のカオスニューロンへのシナプス結合係数

$\alpha$ : 不応性項をスケーリングするパラメータ

$\theta_i$ : $i$番目ニューロンのしきい値

式 3.1 のカオスニューロンモデルは、 実際の生物のニューロンが有する軸索小丘部のアナログ的出力関数、 多数の外部入力やフィードバック入力の時空間的荷重および 神経膜の不応性をモデル化したものである[5]。

式 3.1$i$ 番目のカオスニューロンモデルの ダイナミクスは、それと等価で数値計算が容易な以下のような3つの内部状態変数 $\xi_i,\eta_i$及び$\zeta_i$ のダイナミクスに書き換えることができる。


\begin{displaymath}
\xi_i(t+1) = k_e\xi_i(t)+\sum_{j=1}^{M}v_{ij}A_j(t)
\end{displaymath} (3.2)


\begin{displaymath}
\eta_i(t+1) = k_f\eta_i(t)+\sum_{j=1}^{N}w_{ij}x_j(t)
\end{displaymath} (3.3)


\begin{displaymath}
\zeta_i(t+1) = k_r\zeta_i(t)-\alpha x_i(t)-\theta_i(1-k_r)
\end{displaymath} (3.4)

$\xi_i(t)$ : $i$番目ニューロンにおける外部入力に関する内部状態項

$\eta_i(t)$ : $i$番目ニューロンにおけるネットワーク内の他のニューロンからの           フィードバックに関する内部状態項(相互結合を表す項)

$\zeta_i(t)$ : $i$番目ニューロンにおける不応性に関する内部状態項

ここで、式 3.2,式 3.3,式 3.4 はおのおの 式 3.1右辺の関数 $f$ の( )内の第1項,第2項, および第3,4項に対応する $i$ 番目のカオスニューロンの内部状態変数で、 以下のように定義される。


\begin{displaymath}
\xi_i(t+1) = \sum_{j=1}^{M}v_{ij}\sum_{d=0}^{t}k_{e}^{d}A_j(t-d)
\end{displaymath} (3.5)


\begin{displaymath}
\eta_i(t+1) = \sum_{j=1}^{N}w_{ij}\sum_{d=0}^{t}k_{f}^{d}x_j(t-d)
\end{displaymath} (3.6)


\begin{displaymath}
\zeta_i(t+1) = -\alpha\sum_{d=0}^{t}k_{r}^{d}x_i(t-d)-\theta_i
\end{displaymath} (3.7)

式 3.5 〜式 3.7 で定義した 各項の和をニューロンの内部状態 とすると、$i$ 番目のニューロンの出力は式 3.8) で表される[5]。


\begin{displaymath}
x_i(t+1) = f(\xi_i(t+1)+\eta_i(t+1)+\zeta_i(t+1))
\end{displaymath} (3.8)

ここで、関数 $f$ は式 2.2 で表されるようなシグモイド関数とする。

また式 2.2,式 3.2,式 3.3,式 3.4 を視覚的に表すと図 3.2 のようになる。

図 3.2: 内部状態を考慮したカオスニューロンモデル


\includegraphics[scale=0.7]{fig/chaos_moderu.eps}


next up previous contents
Next: 学習法 Up: カオスニューラルネットワーク Previous: カオスニューロンモデル   目次
Deguchi Lab. 2012年3月9日