AI 기초 학습 기본

일반화Generalization

처음 보는 데이터에서도 실력이 유지되는 힘

핵심 정리
  • 일반화는 배운 것을 처음 보는 상황에도 써먹는 힘이에요. AI의 진짜 실력은 여기서 갈려요.
  • 연습에 쓴 데이터에서 잘하는 것은 실력의 증거가 아니에요. 한 번도 보여 주지 않은 데이터로 재야 알 수 있어요.
  • 낱낱의 사례를 외우면 일반화가 무너져요. 사례 뒤에 있는 되풀이되는 규칙을 잡아야 해요.
  • 데이터는 양보다 다양성이 일반화를 키워요. 비슷한 것만 잔뜩 모으면 폭이 늘지 않아요.
  • 일반화에는 통하는 범위가 있어요. 배운 세상과 너무 다른 곳에서는 어떤 모델도 흔들려요.
목차

1비유로 이해하기

낯선 동네에 처음 내려도 편의점은 대개 찾아내요. 그 동네 지도를 외운 적이 없는데도요. 큰길 쪽으로 걷고, 버스 정류장 근처를 살피고, 밤에도 환한 간판을 눈으로 훑는 요령이 몸에 배어 있으니까요. 동네마다 골목 모양도 간판 색도 다르지만, 편의점이 놓이는 자리에는 어느 동네에서나 되풀이되는 규칙이 있어요. 그 규칙을 붙잡은 사람은 처음 온 동네에서도 몇 분이면 물 한 병을 사요. 반대로 살던 동네의 길만 통째로 외운 사람은 한 정거장만 벗어나도 헤매요. AI에게 일반화는 바로 이 요령이에요. 학습에 쓴 데이터에서만 잘하는 것이 아니라, 처음 보는 데이터 앞에서도 같은 실력을 내는 힘이에요.

2자세히 알아보기

외운 길과 익힌 요령은 겉으로 구별되지 않아요

살던 동네 안에서는 두 사람의 차이가 드러나지 않아요. 길을 통째로 외운 사람도, 편의점 자리를 찾는 요령을 익힌 사람도 똑같이 오 분 만에 도착하니까요. 차이는 낯선 동네에 내려놓는 순간에만 보여요.

AI도 마찬가지예요. 학습에 쓴 데이터만 놓고 보면 외운 모델과 규칙을 잡은 모델의 점수가 비슷해요. 심하게 외운 쪽이 오히려 더 높기도 해요. 그래서 학습 데이터 점수는 실력을 재는 자로 쓸 수 없어요.

한쪽으로 치우쳐 외우기만 한 상태를 과적합이라고 불러요. 일반화는 그 반대편에 놓인 목표예요. 학습을 시키는 이유가 연습 문제를 잘 맞히기 위해서가 아니라 아직 만나지 않은 데이터를 잘 다루기 위해서라는 점을, 학습 내내 붙잡고 있어야 해요.

안 가 본 동네를 남겨 둬야 알 수 있어요

실력을 재려면 한 번도 걸어 보지 않은 동네가 필요해요. 이미 다녀온 동네에서 시험을 보면 외운 사람이 이기니까요. 그래서 가진 데이터를 통째로 학습에 쓰지 않고 일부를 미리 떼어 놓아요.

떼어 둔 몫은 다시 둘로 나뉘어요. 학습 도중에 상태를 살피는 몫이 검증 데이터, 마지막에 딱 한 번 열어 보는 몫이 테스트 데이터예요. 검증 데이터를 보며 설정을 계속 고치다 보면 그쪽에도 슬그머니 맞춰지기 때문에, 진짜 마지막 판정은 손대지 않은 테스트 데이터로 해요.

학습 데이터 점수와 처음 보는 데이터 점수 사이의 벌어진 간격이 일반화가 얼마나 안 됐는지를 알려 줘요. 간격이 크면 외우고 있다는 뜻이고, 두 점수가 나란히 낮으면 아직 못 배운 상태라는 뜻이에요.

다양성이 요령을 만들어요

같은 동네만 백 번 돌아다녀도 요령은 잘 늘지 않아요. 아파트 단지와 시장통과 대학가와 시골 읍내를 한 번씩 걸어 본 사람이 훨씬 빨리 감을 잡아요. 겹치지 않는 상황을 여러 번 만나야 그 안에서 변하지 않는 부분이 눈에 들어오거든요.

데이터도 그래요. 사진을 만 장 모아도 전부 같은 장소에서 같은 조명으로 찍었다면 폭이 넓어지지 않아요. 그래서 사진을 조금 돌리거나 밝기를 바꿔 상황을 늘리는 데이터 증강을 쓰고, 모으는 단계에서 일부러 다른 조건을 섞어 넣어요.

모델 쪽에서도 손을 대요. 데이터에 비해 모델이 지나치게 크면 외울 힘이 남아돌아요. 그래서 점수가 더 오르기 전에 학습을 멈추거나, 연결 일부를 일부러 쉬게 하거나, 값이 한쪽으로 크게 자라지 않도록 눌러 두는 방법을 함께 써요.

요령에도 통하는 범위가 있어요

편의점 찾는 요령은 한국 도시에서 잘 통해요. 길이 좁고 간판이 빽빽한 곳이라면 어디든 사정이 비슷하니까요. 그런데 상점이 드문 산골이나 길 구조가 아예 다른 외국 도시에 가면 그 요령은 힘을 잃어요.

AI의 일반화도 끝이 없지 않아요. 학습에 쓴 데이터와 비슷한 결의 상황까지만 힘이 미쳐요. 낮에 찍은 사진만 보고 배운 모델은 밤 사진에서 흔들리고, 어른 목소리로 배운 모델은 아이 목소리 앞에서 헤매요. 잘 쓰던 모델의 성적이 갑자기 떨어졌다면 세상이 바뀐 것인지 데이터가 낡은 것인지부터 살펴야 해요.

그래서 일반화는 한 번 이루면 끝나는 상태가 아니에요. 쓰는 동안 계속 새 데이터로 점검하고, 배운 범위를 벗어난 입력이 들어오면 사람에게 넘기도록 미리 만들어 두는 편이 안전해요.

3조금 더 정확하게

일반화 성능은 학습에 쓰지 않은 데이터에서의 오차로 정의해요. 학습 데이터 오차와 이 오차의 차이를 일반화 격차라고 부르고, 이 격차를 좁히는 일이 학습의 실제 목표예요. 격차가 크게 벌어진 쪽이 과적합, 두 값이 나란히 큰 쪽이 과소적합이에요. 모델을 단순하게 만들면 외울 힘이 줄어 격차는 좁아지지만 기본 오차가 커지고, 복잡하게 만들면 반대가 돼요. 이 맞바꿈을 편향과 분산의 절충이라고 불러요.

비유가 어긋나는 지점도 있어요. 사람은 편의점을 못 찾으면 지나가는 사람에게 묻거나 지도 앱을 켜는 식으로 방법 자체를 바꿔요. 모델은 그렇게 하지 못해요. 학습이 끝난 뒤에는 배운 규칙만 되풀이하고, 규칙이 통하지 않는 자리에서도 똑같이 확신에 찬 답을 내놓아요. 사람의 요령은 왜 그런지 말로 풀어 설명할 수 있지만, 모델이 붙잡은 규칙은 사람이 알아볼 수 있는 형태로 남지 않는 경우가 대부분이라는 점도 달라요.

4직접 해보기

5흔한 오해

  • 학습 데이터에서 정확도가 높으면 좋은 모델이라고 생각하기 쉽지만, 실제로는 그 점수가 외운 결과일 수 있어서 처음 보는 데이터로 다시 재기 전에는 아무것도 증명하지 못해요.

  • 데이터를 많이 모으면 일반화가 저절로 된다고 여기기 쉽지만, 실제로는 비슷한 데이터만 늘리면 폭은 그대로예요. 늘려야 하는 것은 개수보다 상황의 종류예요.

  • 일반화가 잘된 모델은 어디서나 통한다고 믿기 쉽지만, 실제로는 학습한 데이터와 결이 다른 곳에서 성능이 뚝 떨어져요.

7한 줄 요약

그러니까일반화는 연습한 데이터를 잘 맞히는 힘이 아니라, 한 번도 보지 못한 데이터 앞에서 같은 실력을 내는 힘이에요.

잘못된 내용이나 더 좋은 비유가 있나요? 수정 제안 보내기 · 마지막 수정2026-09-02