学習曲線Learning Curve

1横軸に何を置くか

もっともよく見る学習曲線は、横軸に学習を回した回数を置きます。データを一周するたびに点数を測って点を打ち、結びます。この線は「今続けることに得があるか」という問いに答えます。

横軸に使ったデータの量を置く曲線もあります。データを100枚、500枚、2,000枚使ったときに点数がどう変わるかを描きます。この線は「データをもっと集める価値があるか」という別の問いに答えます。線がまだ上がっている途中ならもっと集めるほうが得で、すでに寝てしまっているなら、今のモデルのままではデータを集めても大きくは変わらない可能性が高いです。このときはデータよりモデル側が壁かもしれません。

2線の形の読み方

線は普通、訓練データで測ったものと取り分けたデータで測ったものの二本を描き、止めるかどうかは取り分けた方で判断します。線を読むときは、高さよりも先に傾きを見ます。急な区間は、まだ学ぶことが残っているという意味です。ここで止めると、実力を出し切らないまま終えることになります。

傾きがゆるやかになると、得るものとかかる時間が釣り合ってくる区間に入ったということです。ここからは回数を倍にしても点数はごくわずかしか上がりません。止めるかどうかを検討し始める場所です。

線が折れて再び悪くなり始めたら(損失なら上がり、正解率なら下がります)、すでに行き過ぎています。髪を必要以上に切ってしまった状態と同じです。このときすべきことはもっと続けることではなく、一番良かった回に戻ることです。

3止める場所を規則で決める

目で見て「これくらいでよい」と決めると、人によって読み方が変わります。そこであらかじめ規則を書いておきます。もっともよく使う方式は、決めておいた回数だけ待ってみることです。点数が一番良かった回を覚えておき、そのあと十周さらに回してもその記録を超えなければ学習を止めます。

すぐに止めず数周待つ理由があります。曲線は滑らかではなく、一、二周はたまたま悪くなることもあるからです。一回悪くなっただけですぐ手を放すと、そのあとに来る改善を逃します。待つ回数を長く取りすぎると時間を無駄にし、短く取りすぎると早く終わりすぎてしまうため、この数字自体をあらかじめ決めておく値として扱います。

4奇妙な形が送る合図

点数が最初からほとんど動かず平らなら、学習がそもそも始まっていない状態です。一歩が小さすぎたり、データがきちんと入っていなかったり、問題に比べてモデルが単純すぎるときにこういう線が出ます。

線が上下に激しく揺れるなら、一歩が大きすぎるか、一度に見るデータのまとまりが小さすぎる場合が多いです。点数を測るデータが少なすぎても、このように揺れます。反対に、しばらく平らだったのに急にがくんと落ちる階段状の形が出ることもあります。こういう線は決めた回ごとに歩幅を小さくする設定にしたときによく出ます。そうした設定がなければ、長く迷っていた学習が調子をつかんだ合図かもしれないので、もう少し待ってみる価値があります。線の高さは成績を教え、線の形は何を直すべきかを教えます。