実験結果

サンプリングデータ数が3の場合について、内部記憶層のみ、中間層のみ、 内部記憶層と中間層の素子数を同時に変更した場合の結果を順に示す。 次にサンプリングデータ数が4の場合について、内部記憶層と中間層の素子数を同時に変更した場合の結果を示す。

1. 内部記憶層の素子数を変更した場合の学習後の予測結果（サンプリングデータ数3の場合）

   中間層の素子数は先の実験と同様に2個で固定し、 内部記憶層の素子数を1〜10個に変化させた時の 各遅れ時間における学習後の平均誤差を分類したものを 表6.2、表6.3に示す。

   この結果から、内部記憶層の素子数によって平均誤差に影響を与えていることがわかる。 しかし、一番よい平均誤差が1.50℃より大きく1.75℃以下の範囲であることから 内部記憶層の素子数を増やしても飛躍的に予測がうまくいくとは考えにくい。

2. 中間層の素子数を変更した場合の学習後の予測結果（サンプリングデータ数3の場合）

   同様に内部記憶層の素子数を3個で固定し、 中間層層の素子数を1〜10個に変化させた時の 各遅れ時間における学習後の平均誤差を分類したものを 表6.4、表6.5に示す。

   内部記憶層の素子数を変化させたときと比べると、 平均誤差が小さくなっているものが多い。 中間層の素子数を変化させた中で一番平均誤差が小さいものが、 教師信号が1月で素子数が8個、遅れ時間が1のものであった。 そのときの予測値を教師信号と共に図6.4に示す。 図6.1や図6.2と比べても、 急激な温度変化をしている部分にもそれに近い気温を予測出来る様になってきた。

3. 内部記憶層と中間層の素子数を同時に変更した場合の学習後の予測結果（サンプリングデータ数3の場合）

   内部記憶層と中間層層の素子数を同時に1〜10個に変化させた時の 各遅れ時間における学習後の平均誤差を分類したものを 表6.6、表6.7に示す。

   ネットワークの規模が小さく、素子数が1〜3個だと平均誤差が大きいが、 素子数が大きくなるにつれ平均誤差が小さくなっている。 素子数が7〜10個になると平均誤差が1℃以下の場合が5箇所あり、初めて学習が成功した。 学習が成功した時の遅れ時間は、遅れが少ない場合のみで 同じネットワークの規模でも遅れ時間が少ない方が平均誤差が小さくなる傾向が見られた。

   学習が成功し、平均誤差が1℃以下のもののうち一番誤差が低かった 教師信号が2月で素子数が9個、遅れ時間が2のものについて、 予測値を教師信号と共に図6.5に示す。 ほとんど教師信号と同じ気温が予測出来ているのが分かる。 このときの平均誤差は約0.085℃であった。

4. 内部記憶層と中間層の素子数を同時に変更した場合の学習後の予測結果（サンプリングデータ数4の場合）

   サンプリングデータ数が3で内部記憶層と中間層の素子数を同時に変化すると 学習が成功したことから、サンプリングデータ数4でも平均誤差に変化があるのではないかと考え実験した。 そのときの各遅れ時間における 学習後の平均誤差を分類したものを表6.8、表6.9に示す。

   結果を見ると、ネットワークの規模が変わっても平均誤差に変化がないことが確認出来た。

   
   

   
   

   表 6.2: 内部記憶層を変更した場合について学習後の平均誤差の分類（教師信号：$n=3$での1月の気温）

   		遅れ時間
   		1	2	3	4	5	6	7	8
   	1	5	5	5	5	4	5	4	4
   	2	5	4	4	4	4	5	5	5
   	3	5	5	5	4	4	5	5
   	4	4	4	4	3	5	5	5	5
   内部記憶層	5	5	4	4	5	5	3	3	5
   の素子数	6	5	5	5	5	4	5	3	5
   	7	5	4	4	5	5	4	5	5
   	8	5	4	4	4	5	5	5	5
   	9	5	5	5	4	5	5	5	5
   	10	5	5	5	5	5	5	5

   
   

   表 6.3: 内部記憶層を変更した場合について学習後の平均誤差の分類（教師信号：$n=3$での2月の気温）

   		遅れ時間
   		1	2	3	4	5	6	7	8
   	1	5	5	5	5	5	5	5	5
   	2	5	4	4	5	4	5	5	4
   	3	5	4	4	5	4	5	5	4
   	4	5	4	4	5	4	4	5	4
   内部記憶層	5	5	5	4	5	5	4	5	5
   の素子数	6	5	4	4	5	4	5	5	4
   	7	3	3	4	3	5	4	3	4
   	8	5	4	5	5	5	4	3	3
   	9	5	4	5	5	5	4	5	4
   	10	5	4	5	4	4	3	4	3

   
   

   
   

   
   

   表 6.4: 中間層を変更した場合について学習後の平均誤差の分類（教師信号：$n=3$での1月の気温）

   		遅れ時間
   		1	2	3	4	5	6	7	8
   	1	5	5	5	5	5	5	5	5
   	2	5	4	5	5	5	5	5	5
   	3	5	5	4	4	5	5	5	4
   	4	3	4	2	2	3	5	5
   中間層の	5	2	2	5	4	5	3	5	5
   素子数	6	2	5	2	3	5	3	5	5
   	7	4	5	5	5	5	5	5	5
   	8	1	5	5	5	2
   	9	3	5	3	5	5	2	5	5
   	10	2	3	5	4	5	5	5	5

   
   

   表 6.5: 中間層を変更した場合について学習後の平均誤差の分類（教師信号：$n=3$での2月の気温）

   		遅れ時間
   		1	2	3	4	5	6	7	8
   	1	5	5	5	5	5	5	5	5
   	2	5	4	5	5	4	5	5	4
   	3	5	3	4	5	4	5	5	5
   	4	5	5	4	5	4	4	5	5
   中間層の	5	5	3	1	5	5	4	5	5
   素子数	6	2	4	3	3	4	4	5	5
   	7	5	3	4	5	4	2
   	8	3	5	5	4	2	2
   	9	4	3	3	3	3	5	5
   	10	4	1	2	3	5	5	3

   
   

   
   

   
   

   表 6.6: 内部記憶層、中間層を同時に変更した場合について学習後の平均誤差の分類（教師信号：$n=3$での1月の気温）

   		遅れ時間
   		1	2	3	4	5	6	7	8
   	1	5	5	5	5	5	5	5	5
   	2	5	3	4	4	4	5	3	5
   	3	3	5	4	4	5	5	5	5
   内部記憶層	4	3	3	3	5	2	3	5	5
   と中間層の	5	3	4	5	5	2	4
   素子数	6	2	4	5	2	5	4	5	5
   	7	3	3	5	3	3
   	8	0	2	5	5	5	2	5	5
   	9	1	2	5	5	5	5	5	5
   	10	0	1	5	5	5	5	5	5

   
   

   表 6.7: 内部記憶層、中間層を同時に変更した場合について学習後の平均誤差の分類（教師信号：$n=3$での2月の気温）

   		遅れ時間
   		1	2	3	4	5	6	7	8
   	1	5	5	5	5	5	5	5	5
   	2	5	4	4	5	4	5	5	4
   	3	5	4	5	5	3	4	5	5
   内部記憶層	4	5	5	4	5	5	5	5	5
   と中間層の	5	3	5	3	5	5	3	4	3
   素子数	6	3	2	3	3	4	4	3	4
   	7	2	0	2	5	5	4	5	5
   	8	3	5	5	5	5	5
   	9	0	0	1	4	5	5	5
   	10	4	0	3	3	5	5	5

   
   

   
   

   
   

   表 6.8: 内部記憶層、中間層を同時に変更した場合について学習後の平均誤差の分類（教師信号：$n=4$での1月の気温）

   		遅れ時間
   		1	2	3	4	5	6	7	8
   	1	5	5	5	5	5	5	5	5
   	2	5	5	5	5	5	5	5	5
   	3	5	5	5	5	5	5	5	5
   内部記憶層	4	5	5	5	5	5	5	5	5
   と中間層の	5	5	5	5	5	5	5	5	5
   素子数	6	5	5	5	5	5	5	5	5
   	7	5	5	5	5	5	5	5	5
   	8	5	5	5	5	5	5	5	5
   	9	5	5	5	5	5	5	5	5
   	10	5	5	5	5	5	5	5	5

   
   

   表 6.9: 内部記憶層、中間層を同時に変更した場合について学習後の平均誤差の分類（教師信号：$n=4$での2月の気温）

   		遅れ時間
   		1	2	3	4	5	6	7	8
   	1	5	5	5	5	5	5	5	5
   	2	5	5	5	5	5	5	5	5
   	3	5	5	5	5	5	5	5	5
   内部記憶層	4	5	5	5	5	5	5	5	5
   と中間層の	5	5	5	5	5	5	5	5	5
   素子数	6	5	5	5	5	5	5	5	5
   	7	5	5	5	5	5	5	5	5
   	8	5	5	5	5	5	5	5	5
   	9	5	5	5	5	5	5	5	5
   	10	5	5	5	5	5	5	5	5

   
   

   図 6.4: 学習後の教師信号と予測値（中間層の素子数8、遅れ時間1）
   図 6.5: 学習後の教師信号と予測値（内部記憶層と中間層の素子数9、遅れ時間2）

   
   
   
   

以上の結果から、サンプリングデータ数が3の場合はニューラルネットの規模が学習後の 予測値に影響を及ぼす可能性が高いことが分かった。 最終的に学習が成功したのは、 サンプリングデータ数が3で内部記憶層と中間層を同時に変更した場合のみという結果になった。 サンプリングデータ数が4の場合は、ネットワークの規模を変化させても 平均誤差が2℃を超えたままで、学習が成功することはなかった。