生物の神経系において脳は過去の経験を記憶として蓄え、これを活用して処理を行なう。さらに、自己の動作をより適切なものへと変化させていく。 このように自身の構造をより適切な状態に変化させる事を学習と呼ぶ。
脳は多数のニューロンからなるネットワークによって構成されているため、 脳の特性の変化とはニューロン間の相互結合の強さを変換させる事で実現する。 結合の強さの変換というのは具体的には、結合を断ち切ったり、新しい結合を作成したりする事を指す。
このような脳の仕組みをプログラムとして実現させる。 ニューラルネットワークでの学習は、特定のアルゴリズムに基づきニューロン間の伝達係数である結合荷重を変化させる事を指す。 意味のある学習をするためには、それに応じた何らかの機構が必要である。
学習の指針として、ある入力にたいして回路網が出力すべき望ましい出力が外部から与えられる場合、これを教師信号と呼ぶ。 その教師信号(正解)の入力によって、問題に最適化されていく教師あり学習と、教師信号を必要としない教師なし学習の2つに分けられる。 明確な解答が用意される場合には教師あり学習が、データ・クラスタリングには教師なし学習が用いられる。 結果としていずれも次元削減されるため、画像や統計など多次元量のデータでかつ線形分離不可能な問題に対して、比較的小さい計算量で良好な解を得られることが多い[5]。
このことから、データ予測やパターン認識をはじめ、さまざまな分野において応用されている。