데이터셋Dataset

자료 한 건과 자료 묶음은 달라요

데이터는 자료 하나하나를 가리키는 말이지만, 데이터셋은 그 자료들을 같은 규칙으로 모아 둔 한 묶음을 가리켜요. 손님 한 명의 주문 기록은 데이터고, 지난 1년 치 주문 기록 전체가 데이터셋이에요.

한 묶음 안에서는 자료의 생김새가 같아야 해요. 사진이라면 크기와 형식을 맞추고, 표라면 칸 이름과 순서를 맞춰요. 어떤 자료에는 날짜가 있고 어떤 자료에는 없다면 모델은 그 칸을 제대로 쓰지 못해요.

그래서 데이터셋에는 자료 자체 말고도 설명이 딸려요. 어디서 어떻게 모았고, 무엇이 들어 있고, 어떤 조건으로 쓸 수 있는지를 적어 두는 거예요. 이 설명이 없으면 남이 그 묶음을 제대로 쓸 수 없어요.

서가를 나눠 둬야 실력을 잴 수 있어요

데이터셋은 보통 세 몫으로 나눠요. 가르치는 데 쓰는 몫, 가르치는 중간에 상태를 살펴보는 몫, 마지막에 딱 한 번 실력을 재는 몫이에요.

나누는 이유는 간단해요. 가르칠 때 보여 준 자료로 시험을 보면 외운 것만 확인하게 되거든요. 처음 보는 자료에서 얼마나 맞히는지가 진짜 실력이니까, 시험용 몫은 학습 내내 손대지 않고 봉해 둬요.

이 경계가 새면 큰일이에요. 시험용 자료가 슬쩍 학습 쪽에 섞여 들어가면 점수만 좋아 보이고 실제로는 형편없는 모델이 나와요. 자료를 나눌 때 같은 사람이 찍은 사진이 양쪽에 걸치지 않았는지까지 챙기는 이유예요.

담기지 않은 것은 배울 수 없어요

모델은 데이터셋 밖의 세상을 알지 못해요. 낮에 찍은 사진만 담긴 묶음으로 가르치면 밤 사진에서 헤매고, 표준어만 담긴 묶음으로 가르치면 사투리를 못 알아들어요. 담긴 범위가 곧 모델이 다룰 수 있는 범위예요.

그래서 데이터셋을 만들 때는 "이 묶음에 무엇이 빠져 있나"를 계속 물어요. 잘 안 나오는 상황일수록 일부러 더 챙겨 담아야 하고, 그래도 모자라면 있는 자료를 뒤집거나 밝기를 바꿔 늘리기도 해요.

모으는 일보다 다듬는 일이 더 커요

자료를 긁어모으는 건 시작일 뿐이에요. 같은 자료가 여러 번 들어오지 않았는지, 깨지거나 비어 있는 칸은 없는지, 붙어 있는 정답이 맞는지를 사람이 일일이 확인해요. 이 다듬는 일에 전체 시간의 대부분이 들어가는 경우가 흔해요.

정답을 붙이는 일도 만만치 않아요. 사진 한 장에 무엇이 찍혔는지 사람이 적어 넣어야 하는데, 사람마다 기준이 달라서 같은 사진에 다른 정답이 붙기도 해요. 그래서 기준을 문서로 정해 두고 여러 사람의 판단을 맞춰 보는 절차를 둬요.

크기보다 갖춤새가 중요해요

자료를 열 배 늘렸는데 실력이 그대로인 일이 자주 있어요. 늘어난 자료가 이미 잘하던 부분만 더 채웠기 때문이에요. 반대로 틀리는 상황의 자료를 조금만 보태도 눈에 띄게 나아지기도 해요.

그래서 요즘은 무턱대고 늘리기보다, 지금 무엇을 틀리는지 살펴보고 그 빈칸을 메우는 자료를 골라 담는 쪽으로 손이 가요. 잘 갖춘 작은 묶음이 마구잡이로 모은 큰 묶음을 이기는 일은 드물지 않아요.