早期終了Early Stopping

二つの成績が別々に動く

学習中は、成績を二か所で測ります。一つは学習に使ったデータ、もう一つは学習に使わず取り分けておいたデータです。学習データの成績は、周を重ねるほどほぼ常に良くなります。モデルがそのデータをだんだん覚えていくからです。

取り分けたデータの成績は違う動き方をします。最初は一緒に良くなっていきますが、ある地点を過ぎるとそれ以上良くならず、じわじわ悪くなっていきます。モデルが、データに含まれる規則の代わりに、そのデータだけにある雑音までなぞり始めた瞬間です。

二本の線が開き始める地点が、止める場所です。この地点を目で確かめるには、周ごとに両方の成績を測って並べて書き留めておく必要があります。

取り分けたデータは学習に絶対使いません。一度でも学習に混ざると、そのデータの成績も一緒に良くなってしまい、折れる地点が見えなくなるからです。早期終了がきちんと働くには、まずこのデータをきれいに守っておくことが前提です。この前提が崩れると、早期終了は動いていても実際には何も見張っていないのと同じになります。

すぐには止めません

取り分けたデータの成績は少しずつ揺れます。データのまとまりが毎回違う組み方をされるので、一、二周悪くなってからまた良くなることはよくあります。最初の悪化ですぐ止めると、まだ下げられたはずの学習を早く打ち切ってしまいます。

そこで何周様子を見るかをあらかじめ決めておきます。最高記録が出たあとその分だけ周が過ぎても記録が破られなければ、そこで止めます。この猶予を短く取ると性急に切られ、長く取ると要らない学習を長く引きずります。

一番良かった地点に戻す

止めた時点の状態をそのまま使うと損です。最高記録が出たあと数周さらに回っているので、最後の状態はすでに少し悪くなった状態だからです。

そこで学習の途中、記録が更新されるたびにその時点の値を別に保存しておきます。止めたあとは、保存しておいた中で一番良かった状態を取り出して使います。コーヒーでいえば、味が折れたあとにダイヤルを一番良かった挽き目に戻すのと同じです。

保存は記録が更新されたときだけすればよく、毎周すべて残しておくと保存容量がすぐいっぱいになります。モデルが大きいほど一回の保存にかかる容量が大きいので、何をいつ残すかを決めておくことが学習設定の一部になります。

なぜこの方法が広く使われるのか

早期終了は、手を加えることがほとんどありません。見守る周回数を一つ決めれば終わりで、モデルの構造には触れません。それでも過学習を目に見えて減らしてくれます。値が大きくなる時間を与えないという点で、罰点を与える方式と似た効果を生みます。

学習時間を節約できることも大きな利点です。周回数を余裕を持って書いておき早期終了を掛けておけば、実際に必要な分だけ回って自動で終わります。値が大きくなりすぎないよう罰点を与える方式や、一部を無作為に休ませる方式と一緒に掛けておくのが普通です。