모델 구조Model Architecture

설계도에 적히는 세 가지

첫째는 층의 개수예요. 얕게 몇 층만 쌓을지, 수십 수백 층까지 올릴지 정해요. 층이 깊을수록 복잡한 규칙을 담을 수 있지만 그만큼 학습이 까다로워져요.

둘째는 층마다 무엇을 둘지예요. 이미지의 작은 조각을 훑는 층, 문장 안의 조각들이 서로를 살펴보게 하는 층, 값을 다듬어 넘기는 층처럼 성격이 다른 부품이 있어요. 셋째는 연결 방식이에요. 위로 곧장 올릴지, 몇 층을 건너뛰는 지름길을 낼지, 옆으로 갈라 두 갈래를 만들지 정하는 부분이고요.

도면과 가구는 다른 것

모델 이야기에서 가장 자주 섞이는 두 가지가 구조와 가중치예요. 구조는 빈 뼈대이고, 가중치는 학습으로 그 안에 채워 넣은 숫자예요. 구조만 있으면 아무 답도 못 내고, 가중치만 있으면 어디에 넣어야 할지 알 수 없어요.

인터넷에 공개된 모델을 내려받을 때 파일 안에 든 것은 대체로 가중치 쪽이에요. 구조는 그 모델을 정의한 코드나 설정 파일에 따로 적혀 있어요. 둘이 정확히 맞아야 모델이 살아나요. 도면 없이 가구만 트럭에 실어 온 것과 같아서, 어느 방에 무엇을 놓아야 하는지 알려 주는 도면이 반드시 함께 필요해요.

데이터 모양이 구조를 정해요

그림은 옆에 붙은 점끼리 관계가 깊어요. 그래서 작은 사각형 창을 옮겨 가며 훑는 구조가 잘 맞아요. 문장은 사정이 달라요. 첫 단어와 마지막 단어가 곧바로 이어질 수 있어서, 멀리 떨어진 조각끼리도 서로를 직접 살펴보는 구조가 어울려요.

소리는 시간 순서가 중요하고, 표로 정리된 숫자는 아주 단순한 구조로 충분한 경우가 많아요. 구조를 고른다는 것은 데이터가 가진 성질을 미리 모델에 알려 주는 일이에요. 잘 맞는 구조를 고르면 같은 데이터로도 훨씬 적은 학습으로 좋은 결과가 나와요.

설계자가 고민하는 것들

깊게 쌓을지 넓게 펼칠지가 첫 갈림길이에요. 깊으면 단계를 여러 번 거치며 복잡한 규칙을 담고, 넓으면 한 층에서 더 많은 정보를 한꺼번에 다뤄요. 같은 크기라면 어느 쪽이 나은지는 문제마다 달라요.

성능만 보는 것도 아니에요. 답이 얼마나 빨리 나와야 하는지, 그래픽 메모리에 올라가는지, 학습에 얼마나 큰 비용이 드는지가 함께 걸려요. 휴대폰에서 돌아야 하는 모델과 데이터센터에서 도는 모델은 애초에 다른 설계도로 시작해요.

구조를 바꾸면 배운 내용을 그대로 가져올 수 없다는 점도 큰 부담이에요. 벽 하나를 옮기는 순간 이미 채워 둔 가구가 맞지 않게 되니까요. 그래서 이미 검증된 설계도를 그대로 쓰고 크기만 키우거나 줄이는 선택이 흔해요. 새 설계도를 들고 나오려면 그만큼 확실한 이점이 있어야 해요.