next up previous contents
Next: 結論 Up: ルール抽出実験 Previous: 入力層-出力層の論理関数による出力層のニューロンの出力の計算

ルール抽出についての考察

連続値の時系列である正弦波を学習させたニューラルネットについて、 本来は2値出力を扱うニューラルネットからのルール抽出法を適用して、 どのようなルールが抽出されるか、またそれらのルールによる出力値はニューラルネットの出力と 比較してどのようになるかを調べた。ルール抽出の手法は、 実質は個々のニューロンにおける入出力間のルールを抽出するものであるので、 まず中間層、出力層の各ニューロンからのルール抽出を行い、 それから入出力間のルールを導き出すという手法をとった。まず論理式として取り出されたルールは、 入力の値さえ分かれば簡単に出力を求めることができるものになった。 したがって、ルールの信頼性を無視すれば、学習された時系列の性質を 簡単な数式(論理式)として表現することができたので、 ルール抽出の有効性は高いと評価できる。また、 学習をさせたニューラルネットの振る舞いとどの程度一致するかもルール抽出の有効性の 評価材料とできる。ニューラルネットのニューロンの出力値を用いて中間層、 出力層のニューロンの論理関数による出力を見ると、中間2や出力0のように、 ニューラルネットの振る舞いとは異なった傾向を見せるものがあった。 他のニューロンではある程度近い傾向が見られたが、特に出力0は実際の時系列を予測した出力であるので、異なった傾向を見せるのは問題があると見なせる。 得られたルールを統合して入出力間のルールも導き出したが、 図9.10や図9.11に見られるように、 学習させた時系列を表現しているとはいい難いものもあった。 このように、学習をさせたニューラルネットからのルール抽出の結果は、 簡単な表現ではあるが学習させた内容とは異なる振る舞いを見せるものもあったので、 総合的な評価としては、この種のニューラルネットからのルール抽出法としては あまり適切な手法でないと評価することができる。 また実験により得られた点として、9.5の論理Bのように、 中間層、出力層と段階的に論理関数による出力を求めた場合と、9.7の論理Cのように、 得られた論理関数を統合した関数により出力を求めた場合とではことなる傾向を見せるということがある。どちらの方法が良いかは一概には言えないかもしれないが、 出力1に関しては明らかに論理Bの方が優れている。この点に関しては、 ニューロンの数を変えたり中間層の階層数を増やしたりして、 実験の仕方を変えて検証していく価値があると考えられる。



Deguchi Lab.