학습Training

한 바퀴는 네 걸음이에요

학습은 같은 네 걸음을 계속 반복해요. 첫째, 예시 하나를 넣고 답을 내 봐요. 둘째, 그 답이 정답에서 얼마나 어긋났는지 하나의 숫자로 재요. 셋째, 그 숫자를 줄이려면 어느 손잡이를 어느 쪽으로 돌려야 하는지 계산해요. 넷째, 그 방향으로 아주 조금 돌려요.

그리고 다음 예시로 넘어가 같은 네 걸음을 또 해요. 자전거로 치면 타 보고, 얼마나 기울었는지 느끼고, 어느 쪽으로 되돌려야 할지 알고, 조금 되돌리는 흐름이에요.

이 한 바퀴가 수백만 번, 수십억 번 돌아요. 한 바퀴에서 바뀌는 양은 눈에 보이지도 않을 만큼 작지만, 이 작은 변화가 쌓여서 처음에는 아무 말이나 하던 것이 제법 그럴듯한 답을 내놓게 돼요.

조금씩 고치는 이유

한 번에 크게 고치면 안 되는 이유가 있어요. 지금 본 예시 하나가 전부를 대표하지 않기 때문이에요. 어쩌다 이상한 예시 하나를 보고 크게 방향을 틀면, 그동안 쌓은 것이 한꺼번에 흐트러져요. 오른쪽으로 기울었다고 핸들을 확 꺾어 반대로 넘어지는 것과 같아요.

그래서 한 걸음의 크기를 아주 작게 잡아요. 이 걸음의 크기를 학습률이라고 불러요. 너무 크면 답 주위를 왔다 갔다 하며 자리를 못 잡고, 너무 작으면 영원히 도착하지 못해요. 적당한 크기를 찾는 일이 학습을 시키는 사람의 중요한 일 가운데 하나예요.

예시를 하나씩 보지 않고 수십 개씩 묶어서 보는 방법도 흔해요. 한 묶음의 평균으로 방향을 정하면 이상한 예시 하나에 휘둘리지 않아서 걸음이 안정돼요.

어긋난 정도를 숫자 하나로 재요

학습이 굴러가려면 지금 얼마나 틀렸는지를 숫자로 알아야 해요. 이 숫자를 재는 잣대를 손실이라고 불러요. 정답과 완전히 같으면 0에 가깝고, 멀수록 커져요.

학습의 목표는 이 숫자를 줄이는 것 하나예요. 그림을 잘 그리라거나 말을 잘하라는 지시는 어디에도 없어요. 사람이 하는 일은 무엇을 재는 잣대로 삼을지 정해 주는 것까지고, 나머지는 그 숫자를 줄이는 쪽으로 저절로 흘러가요.

그래서 잣대를 잘못 고르면 엉뚱한 데로 가요. 자전거로 치면 넘어지지 않는 것만 재면 그 자리에 서 있는 법을 배워 버려요. 실제로 학습에서 자주 생기는 사고가 이런 종류예요.

오래 시킨다고 계속 좋아지지 않아요

학습을 계속 돌리면 손실은 계속 줄어요. 그런데 어느 지점을 넘으면 이상한 일이 벌어져요. 학습에 쓴 예시에 대해서는 점점 더 잘 맞히는데, 처음 보는 예시에 대해서는 오히려 나빠져요. 규칙을 찾는 대신 본 것을 외우기 시작한 거예요. 이 상태를 과적합이라고 불러요.

그래서 학습에 쓰지 않은 예시를 따로 떼어 두고 중간중간 점검해요. 그 점수가 더 이상 좋아지지 않고 돌아서는 순간 학습을 멈춰요. 자전거도 넘어지지 않게 된 뒤에 같은 골목만 계속 도는 건 도움이 안 되고, 다른 길로 나가 봐야 실력이 되는 것과 비슷해요.

학습이 끝나면 모델이 남아요

학습을 멈추면 그 순간의 조절값들이 그대로 굳어요. 이 굳은 값 한 벌을 저장한 것이 모델이에요. 학습은 과정을 가리키는 말이고 모델은 그 과정이 남긴 결과물이에요.

한 번 굳은 모델은 스스로 자라지 않아요. 서비스가 답을 내놓는 동안에는 학습이 일어나지 않아요. 자전거를 배운 뒤 타고 다니는 동안 새로 배우는 것이 거의 없는 것과 같아요. 실력을 바꾸려면 다시 학습을 돌려야 하고, 이미 완성된 모델에 새 자료를 조금 더 먹여 성격만 바꾸는 방법도 따로 있어요.