学習Training

1一巡は四つの動きです

学習は同じ四つの動きを繰り返します。第一に、例(たいていはひとまとまり)を入れて答えを出してみます。第二に、その答えが正解からどれだけずれているかを一つの数で測ります。第三に、その数を減らすにはどの調節つまみをどちら向きに回すべきか計算します。第四に、その向きにほんの少しだけ回します。

そして次の例に移り、同じ四つの動きをまた行います。自転車で言えば、乗ってみて、どれだけ傾いたか感じて、どちら向きに戻すべきか知り、少し戻す流れです。

この一巡が数え切れないほど、大きなモデルなら数十万回を超えて回ります。一巡で変わる量は目に見えないほど小さいのに、この小さな変化が積み重なって、はじめはでたらめだったものが次第にそれらしい答えを出すようになります。

2少しずつ直す理由

一度に大きく直してはいけない理由があります。今見ている例一つが全体を代表しているわけではないからです。たまたま変な例を一つ見て大きく方向を変えると、それまで積み上げてきたものが一気に崩れます。右に傾いたからとハンドルを思い切り切って反対側に倒れるのと同じです。

だから一歩の大きさをごく小さく取ります。この一歩の大きさを学習率と呼びます。大きすぎると答えの周りを行き来して落ち着かず、小さすぎると辿り着くまでに果てしなく時間がかかります。ちょうどよい大きさを見つけることが、学習させる人の大事な仕事の一つです。

実際には例を一つずつ見るのではなく、数十から数千個ずつまとめて見るのがふつうです。ひとまとまりの平均で方向を決めれば、変な例一つに振り回されずに歩みが安定します。

3ずれの大きさを一つの数で測ります

学習が回るためには、今どれだけ間違っているかを数で知る必要があります。この数を測る物差しを損失と呼びます。正解と完全に同じなら0に近く、離れるほど大きくなります。

学習の目標はこの数を減らすことただ一つです。絵を上手に描けとか話を上手にしろという指示はどこにもありません。人がすることは何を物差しにするかを決めるところまでで、あとはその数を減らす方向へ自然に流れていきます。

だから物差しの選び方を誤ると、見当違いのほうへ進みます。自転車で言えば、倒れないことだけを測れば、その場に立ち止まる方法を覚えてしまいます。実際に学習で起きる事故には、こういう種類のものが多くあります。

4長く続ければずっと良くなるわけではありません

学習を続けると損失はどんどん減っていきます。ですが同じ例を何度も繰り返しすぎると、ある地点を越えて奇妙なことが起こることがあります。学習に使った例についてはますます上手に当てるのに、初めて見る例についてはかえって悪くなりうるのです。規則を見つける代わりに、見たものを覚え始めたということです。この状態を過学習と呼びます。

そこで学習に使っていない例を別に取り分けておき、途中で何度も点検します。その点数がこれ以上よくならず、逆に下がり始めたらその場で学習を止める方法がよく使われます。自転車も、倒れなくなったあと同じ路地ばかり回っても意味がなく、別の道に出てこそ実力になるのと似ています。

5学習が終わるとモデルが残ります

学習を止めると、その瞬間の調節値がそのまま固まります。この固まった一そろいの値を保存したものがモデルです。学習は過程を指す言葉で、モデルはその過程が残した結果物です。

たいていのモデルは一度固まると自分から成長しません。答えを出す計算そのものでは調節値は変わりません。ただし、おすすめ表示のように利用者の反応を集めて学習を回し続け、新しく直したモデルにこまめに差し替えるサービスもあります。自転車を習ったあと乗り回している間、新しく学ぶことがほとんどないのと同じです。実力を変えるにはもう一度学習を回す必要があり、すでに完成したモデルに新しい資料を少しだけ与えて性格だけを変える方法も別にあります。