実験内容

実験3では，$\Delta w$の変化のさせ方を線形以外の方法にして同様の学習を行った。ここで用いたのは，二次関数，分数関数，ステップ関数である。これらの関数型にしたがってセット数を変数とし，$\Delta w$を変化させた。具体的には，表5.5と図5.7に示してある。なお，全ての場合において変化させる幅は $2.0\times 10^{-6}$である。

表 5.5: $\Delta w$の変化のさせ方

$\Delta w$の変え方	$\Delta w$の値
(1)一次関数(線形)	$\Delta w = 4.0\times10^{-6}-2.0\times10^{-8}\times\mbox{(セット数)}$
(2)二次関数	$\Delta w = 4.0\times10^{-6}-2.0\times10^{-10}\times\mbox{(セット数)}^{2}$
(3)分数関数	$\Delta w = 4.0\times10^{-4}/\{\mbox{(セット数)}+100\}$
(4)ステップ関数	$\Delta w = 4.0\times 10^{-6}$ → $2.0\times 10^{-6}$

図 5.7: $\Delta w$ の変化のさせ方