回帰Regression
続いた目盛りの上の数値一つを言い当てる仕事
- 回帰は答えが続いた目盛りの上の数値一つとして出る予測です。値段、重さ、時間のように間の値があるものです。
- 答えが枠なら分類、答えが数なら回帰です。間の値が意味を持つかを見れば、二つを見分けられます。
- モデルは値を丸暗記しません。入力が変わると答えも一緒に動く関係を見つけておいて、その関係で新しい値を出します。
- 回帰の成績は当たった・外れたではなく、どれだけずれたかで測ります。このずれの大きさが学習の羅針盤になります。
- 資料にあった範囲を外れた入力には、目盛りをそのまま延ばして答えます。だから見当違いの値が出やすくなります。
目次
1たとえで理解する
昔ながらの八百屋でじゃがいもをひと袋手に取ると、店主がはかりに乗せます。針が止まった場所を見て値を言います。900gならいくら、1kgを少し超えたらいくら、というふうにです。袋を丸ごと選ぶのではなく、目盛りの上のどの位置かで値が決まります。回帰は、こうして続いた目盛りから数値一つを指し示す仕事です。
店主は重さごとに値を暗記しているわけではありません。長く売ってきて身についた感覚があります。重さが増えれば値もそれだけ上がり、粒が大きければ少し値が付く、という感覚です。初めて見る重さが出てきても値を言えるのはこのためです。
値切り交渉になると、この感覚がどれだけ正確かがはっきりします。店主の言う値と実際に売れた値が何度もずれると、次からは言う値を少しずつ調整するようになります。
2くわしく
答えが目盛りの上にあります
回帰と分類を分ける基準は答えの形です。郵便物を東京行きと大阪行きに分ける仕事には**間の値がありません。**東京行き半分、大阪行き半分の袋はないからです。反対にじゃがいもの値段には間がいくらでもあります。300円と320円の間に310円があり、その値も意味を持ちます。
間の値が意味を持てば回帰、意味を持たなければ分類、と見ればだいたい合っています。家の値段、配達が届くまでの残り時間、明日の気温は回帰です。このメールが迷惑メールかどうか、この写真が犬か猫かは分類です。
同じ問題でも答えの立て方によって分かれます。試験の点数を何点かで問えば回帰、合格か不合格かで問えば分類です。何を問うかは人が決めます。
値を暗記せず関係を見つけます
回帰モデルがしていることは、入力と答えの間の関係を一つ立てておくことです。重さが100g増えると値がどれくらい上がるか、粒が大きければどれくらい上乗せするか、といった関係です。この関係さえあれば、表になかった重さが入ってきても値を言えます。
関係を立てるときは複数の手がかりを同時に見ます。重さ、粒の大きさ、季節、産地がすべて値を少しずつ押したり引いたりします。ある手がかりは強く、ある手がかりは弱く働き、その強さを資料から見つけ出すのが学習です。
関係は必ずしもまっすぐな線である必要はありません。重さが増えるほど値が上がり、卸の区間に入るとかえって緩やかになるような、曲がった関係も扱えます。ただし曲がる余地を大きく与えるほど、資料のばらつきまでそのまま写し取ってしまうので注意が必要です。
ずれの大きさが羅針盤です
分類は当たったか外れたかで成績を付けますが、回帰はそう数えられません。300円のものを298円と言ったのと800円と言ったのは、どちらも外れですが重さがまるで違います。だから回帰では言った値と実際の値の差を成績として使います。
この差を複数集めて平均を出すと、モデルが普段どれくらいずれているかがわかります。差をそのまま足すと、多く言い過ぎたものと少なく言い過ぎたものが打ち消し合ってしまうので、たいてい差を大きくしてから足します。大きくずれた例をより痛く数える方式です。
この値は成績表であると同時に、学習の羅針盤でもあります。どちら向きにどれだけずれたかが、そのまま関係をどちらへ動かすべきかを教えてくれるからです。値切り交渉で言う値がいつも高すぎたなら、次から少し低めに言うようになるのと同じです。
経験した範囲を外れると目盛りが延びます
回帰で特に注意すべきなのは資料になかった範囲です。100gから2kgまでしか売ったことのない店主に20kgの袋の値を聞くと、これまでの感覚をそのまま延ばして値を言うことになります。ですがその区間には別に卸値があり、感覚が通用しません。
モデルも同じようにふるまいます。学習で見た範囲の中ではよく合わせますが、外に出ると関係をそのままつなげてしまいます。だから年齢がマイナスになる答えや、値がマイナスになる答えも平気で出します。
値の範囲があらかじめわかっているなら、答えに柵を設けておくのがよいでしょう。そして予測した値一つだけを見るのではなく、それが資料の厚い区間から出たものかどうかも一緒に見る必要があります。
3もう少し正確に
回帰は入力を受け取り、連続した数値一つを出す問題です。正解の付いた例で学習するので分類とともに教師あり学習に属しますが、答えが区分ではなく実数である点が違います。成績を測る物差しとしては差を二乗して平均する方式がよく使われ、大きな誤差をあまり痛く数えたくないときは差の絶対値を使うこともあります。答えがどちら向きにどれだけずれたかがそのまま学習信号になるため、回帰は学習がどこへ向かうべきかを最もはっきり教えてくれる問題の形でもあります。
たとえがずれる点もあります。八百屋の店主は原価や相場という理由を知って値を言いますが、回帰モデルは理由を知りません。資料の中で一緒に動いた痕跡だけをたどります。だから関係が逆転している場合もそのまま学んでしまいます。傘がよく売れた日に雨がたくさん降ったという資料からも回帰は作れますが、傘をもっと売れば雨を呼べるわけではありません。回帰という名前も、戻るという意味の統計用語から来ただけで、何かを元に戻す作業とは関係がありません。
4やってみる
5よくある誤解
回帰は直線を引く作業だと思われがちですが、実際には曲がった関係も扱いますし、手がかりも複数を同時に使います。
分類より難しい問題だと見なされがちですが、実際には答えの形が違うだけで、同じ問題を回帰としても分類としても立てられます。
数で答えるからより精密だと思われがちですが、実際には資料になかった範囲では目盛りをそのまま延ばしてしまうので、かえって大きくずれます。
7ひとこと要約
つまり回帰は枠ではなく続いた目盛りの上の数値一つを出す予測で、どれだけずれたかが成績であり学習の羅針盤にもなります。
誤りや、もっと良いたとえがありますか？ 修正を提案する · 最終更新2026-09-02