学習曲線Learning Curve

横軸に何を置くか

もっともよく見る学習曲線は、横軸に学習を回した回数を置きます。データを一周するたびに点数を測って点を打ち、結びます。この線は「今続けることに得があるか」という問いに答えます。

横軸に使ったデータの量を置く曲線もあります。データを100枚、500枚、2,000枚使ったときに点数がどう変わるかを描きます。この線は「データをもっと集める価値があるか」という別の問いに答えます。線がまだ上がっている途中ならもっと集めるほうが得で、すでに寝てしまっているなら、データを十倍集めても大きくは変わりません。同じ学習曲線という言葉でも、横軸に何を置いているかで答えてくれる問いがまったく違う点は覚えておく価値があります。

線の形の読み方

線を読むときは、高さより先に傾きを見ます。急な区間は、まだ学ぶことが残っているという意味です。ここで止めると、実力を出し切らないまま終えることになります。

傾きがゆるやかになると、得るものとかかる時間が釣り合ってくる区間に入ったということです。ここからは回数を倍にしても点数はごくわずかしか上がりません。止めるかどうかを検討し始める場所です。急な区間とゆるやかな区間の境目は、あらかじめ決まった一つの回数ではなく、曲線を見ながらそのつど見極めるものです。

線が折れて下がり始めたら、すでに行き過ぎています。髪を必要以上に切ってしまった状態と同じです。このときすべきことはもっと続けることではなく、一番良かった回に戻ることです。

止める場所を規則で決める

目で見て「これくらいでよい」と決めると、人によって読み方が変わります。そこであらかじめ規則を書いておきます。もっともよく使う方式は、決めておいた回数だけ待ってみることです。点数が一番良かった回を覚えておき、そのあと十周さらに回してもその記録を超えなければ学習を止めます。

すぐに止めず数周待つ理由があります。曲線は滑らかではなく、一、二周はたまたま悪くなることもあるからです。一回悪くなっただけですぐ手を放すと、そのあとに来る改善を逃します。待つ回数を長く取りすぎると時間を無駄にし、短く取りすぎると早く終わりすぎてしまうため、この数字自体をあらかじめ決めておく値として扱います。美容室でたとえるなら、一回のはさみが気に入らなかっただけで椅子を立たないのと同じで、数回分の様子を見てから判断するわけです。

奇妙な形が送る合図

点数が最初からほとんど動かず平らなら、学習がそもそも始まっていない状態です。一歩が小さすぎたり、データがきちんと入っていなかったり、問題に比べてモデルが単純すぎるときにこういう線が出ます。この場合はしばらく待っても線の形は変わらないので、待つより先に設定を見直すほうが早道です。

線が上下に激しく揺れるなら、一歩が大きすぎるか、一度に見るデータのまとまりが小さすぎるという意味です。反対に、しばらく平らだったのに急にがくんと落ちる階段状の形が出ることもあります。こういう線は最初は迷っていて途中で調子をつかんだという合図なので、もう少し待ってみる価値があります。線の高さは成績を教え、線の形は何を直すべきかを教えます。