誤差逆伝播Backpropagation

前へ一回、後ろへ一回

学習の一歩は往復です。まずデータを入れて層を順に通し、答えを作ります。洗車場に車を入れる側です。出てきた答えと本当の正解を比べて誤差を測ります。

次がたどる道です。誤差を最後の層に渡すと、その層は自分が持つ値がどれだけ誤差に関わったかを計算し、残りの分け前を前の層へ渡します。この受け渡しが最初の層まで続きます。二つの道が一回ずつ終わると、モデルの中のすべての値に「こちらへこれだけ」という付箋が付きます。

前へ流れるときに出てくる途中の結果は、捨てずに持っておく必要があります。たどるときにその値がまた必要になるからです。学習を回すときが完成したモデルを使うときよりずっとメモリを食う、一番の理由です。層が増えるほど持っておく途中の結果も増えるので、深いモデルほどこの負担が大きくなります。

後ろからさかのぼらなければならない理由

前の段階から一つずつ確かめる方法も考えられます。値を一つほんの少し変えてみて、結果がどれだけ変わるかを測るのです。しかし値が一つ変わるたびに洗車場全体をもう一度通す必要があります。値が数億個あれば、これを数億回しなければなりません。

たどる方式は、この無駄をなくします。後ろの段階の分け前が分かっていれば、前の段階の分け前は掛け算数回で出せます。後ろから前へ一度なぞるだけで、すべての値の分け前が同時に求まります。層をどれだけ深く積んでも学習時間が扱える範囲に収まるのは、この順序のおかげです。

分け前を配ったあとは値を動かす

誤差逆伝播は分け前を配るところで終わります。その分け前を見て値を実際に動かす仕事は、勾配降下法が受け持ちます。どれだけ動かすかは学習率が、どんなコツで動かすかはオプティマイザが決めます。役割はこう分かれています。

分け前はデータのまとまりを見るたびに新しく計算されます。同じ値でも、どのデータを見たかによって今回は上げろ、次は下げろとなることがあります。そのため一回の分け前に大きく反応せず、少しずつだけ動かす方式を取ります。誤差逆伝播は毎回この分け前をゼロから作り直すので、前の一歩の結果を覚えておくのはあくまで値を動かす側の役目です。

さかのぼるほど分け前がぼやける

たどる過程は、層を通るたびに値を掛け合わせていく作業です。掛け合わされる値が1より小さいと、層を通るたびに分け前が小さくなり、最初の層に着くころにはほとんど0に近づきます。前の方の層が学習されずに止まってしまう勾配消失は、こうして起こります。

反対に掛け合わされる値が大きいと、たどるほど分け前が膨らんで値が飛んでしまいます。層を飛び越える近道を設けたり、層ごとに値の目盛りを合わせ直す仕組みが広く使われているのは、ここに理由があります。

深いモデルが長らく学習できなかったのも、この問題のためでした。たどる手順そのものは昔から知られていましたが、分け前が前の方まで生きて届くようにする仕組みが整ってはじめて、層を思う存分積めるようになりました。今では層を百、千と重ねたモデルが珍しくないのも、この手当てがあってこそです。