本研究では、逐次学習法によって得られる結合荷重は その取り得る値の数が多いため、結合荷重をある決まった幅で 量子化し、 このことによりネットワークの学習成功数がどのようになるかを調べる。 この量子化処理には以下のものを用いた。
これら2式で は量子化を加える前の結合荷重、
は、量子化を行なった後の結合荷重、
は量子化幅、
Q、Rはそれぞれ
の商と余りである。
この量子化では式(5.3) によって、Qを求める。
この時、0〜 の範囲で余りRを出す。
この余りR の大きさから式(5.4) のように結合荷重を新たに置き直す。
この処理により結合荷重の量子化を行なう。