Elmanのネットワーク

内部記憶を持つニューラルネットワークの構造のもととなったのは 図3.1 に示すElmanのネットワーク[4]である。 このネットワークには文脈層とよばれる、中間層の出力値をそのまま保持する層がある。 この層に保持された値はは、次の学習で中間層へ入力される。 この時，中間層と一対一の関係で保持するために 文脈層の素子数は中間層と同じになる。 このように過去の情報を利用することと 入力を多くすることによって時系列を学習させやすくすることができる。

図 3.1: Elmanのニューラルネットワーク