図 6.5: 内部記憶をもつネットワークでの音の長さを示す数値の誤差変化
図 6.6: 内部記憶を持つネットワークでの音の高さを示す数値の誤差変化
このネットワークは、同研究室専攻科卒業生徳島大己氏の 「ニューラルネットによる気温予測」の研究にて使われ、 良い結果が得られたので 音符にも適用できないかと思い使ってみた。
「チューリップの花」を教師信号とし、 内部記憶として、 20段階に量子化された0〜1.0までの数値を持つニューロンが28個ある ニューラルネットワークに学習をさせる。 また、内部記憶の初期状態はすべて0とし、以後意図的な変化はさせない。 充分な回数だけ学習させたときの誤差を図6.5 と 図6.6 に示す。
この図で示しているのは１番目の音符に対しての誤差のみであるが、 実際の実験の上では全ての音符に対して誤差をとり、 充分学習できているか判別を行なわせている。 この実験では誤差はそれぞれの値に対する理論値と測定値の差の絶対値を用いて判別させてある。 その理由として、 時系列においては全ての値の平均的な誤差を用いると大きな誤差がならされてしまい、 充分学習ができていないのに終了してしまう可能性も起こり得るからである。
学習の結果は図よりわかるとおり、 誤差変化が単純に減少していくのではなく、乱雑な特性となっている。 この理由としては一つの誤差が落ち着いた値となっても、 まだ誤差が大きいものを補正するときに成功している部分も補正されるため、 誤差が再び発散してしまうからであると思われる。
また、 内部記憶素子の持つ値の変化は図6.7 のようになっている。 この図でも内部記憶素子の持つ値は単純な数値であるので、 縦軸の値には単位はない。 内部記憶も学習回数が少ない辺りではそのもつ数値が不安定である。 これはまだ学習が少ないために教師信号による違いが判別できず、 それと同時に内部記憶も安定してないからであると思われる。 誤差のグラフと比べると、 内部記憶が安定し始めたために誤差も小さくなったと思われる。
最終的には第１音ではない音符の長さの誤差が0.1以下、 高さの誤差が0.0125以下という規定値より大きいものであり 量子化できる範囲ではないため、学習は十分に行われていないといえる。 この理由としては教師信号を与えて学習を行なわせているが、 音を表す値のある入力層が他の入力層に与える影響が少なく、 各音に対する内部記憶が全く変わらないため、 同じフレーズの識別ができていないからであると思われる。
また、学習を充分に行うことができなかったため、 このネットワークによる想起はできなかった。