월드 모델World Model

다음에 무엇이 올지를 담아 둔 모형

월드 모델이 하는 일은 한 문장으로 정리돼요. 지금 상태와 지금 취한 행동을 받아 다음 상태를 내놓는 것이에요. 컵을 밀면 컵이 미끄러지고, 더 밀면 가장자리에서 떨어지고, 떨어지면 소리가 나요. 이런 이어짐을 담아 둔 거예요.

이 모형은 사람이 규칙을 적어 넣어 만드는 것이 아니에요. 세상을 겪은 기록을 잔뜩 보여 주고, 다음 순간을 맞혀 보게 하면서 스스로 만들어지도록 해요. 다음 순간을 잘 맞히려면 무엇이 무엇에 영향을 주는지 알아야 하니까, 맞히기를 반복하는 동안 이어짐이 안에 담겨요.

담기는 것은 물리 공식이 아니라 훨씬 두루뭉술한 감각에 가까워요. 공식은 없어도 "이 정도 밀면 이 정도 굴러간다"를 웬만큼 맞혀요.

왜 미리 돌려 보는가

시행착오로 배우는 방식은 실제로 해 봐야 결과를 알 수 있어요. 화면 속 놀이라면 수만 번 반복해도 되지만, 실제 기계라면 한 번의 실수가 부품을 망가뜨리고 한 번의 시도에 몇 분씩 걸려요.

모형이 있으면 이 부담이 사라져요. 안에서 "왼쪽으로 가면", "속도를 줄이면", "기다리면" 하고 여러 갈래를 펼쳐 본 다음 가장 나아 보이는 것 하나만 실제로 해요. 실제 시도 한 번에 상상 수백 번을 붙이는 셈이라 훨씬 적은 경험으로 배울 수 있어요.

안전도 큰 이유예요. 위험한 상황일수록 실제로 겪어 보게 하기 어려운데, 모형 안에서는 부딪혀도 아무 일이 없어요. 겪기 어려운 상황을 일부러 자주 만들어 연습시키는 것도 돼요.

무엇을 담고 무엇을 버리나

화면을 통째로 예측하려 들면 감당이 안 돼요. 그래서 대개 관측을 훨씬 작은 표현으로 눌러 담고, 그 작은 자리에서 다음을 예측해요. 어디에 무엇이 어떤 속도로 있는지 같은 것만 남기고 벽지 무늬나 그림자 같은 것은 버려요.

무엇을 버릴지가 성패를 가릅니다. 나중에 중요해질 것을 버리면 그 부분은 예측할 수 없게 돼요. 화면 구석의 작은 표시가 사실은 결정적인 단서였는데 눌러 담는 과정에서 사라지는 일이 실제로 생겨요.

작게 눌러 담으면 좋은 점도 큽니다. 예측이 가벼워지니 상상을 아주 빠르게 여러 번 돌릴 수 있어요. 실제 시간보다 수천 배 빠르게 앞을 내다보는 일이 가능해지는 것도 이 덕분이에요.

어긋남이 쌓여요

한 걸음 앞은 잘 맞혀요. 문제는 그 결과를 다시 넣어 두 걸음, 세 걸음을 이어 갈 때예요. 첫 걸음의 작은 오차가 다음 입력이 되고, 그 위에 또 오차가 얹혀요. 열 걸음쯤 가면 모형 안 세상이 실제와 딴판이 되어 있기도 해요.

그래서 상상은 짧게 끊어 쓰는 것이 보통이에요. 몇 걸음만 내다보고 실제로 한 걸음 움직인 뒤, 실제 결과로 상태를 다시 맞춰 놓고 또 몇 걸음을 내다봐요. 실제 관측이 어긋남을 계속 붙잡아 주는 거예요.

모형이 스스로 얼마나 확신하는지를 함께 내놓게 하는 방법도 써요. 모형이 자신 없어 하는 자리에서는 상상을 믿지 말고 실제로 해 보게 만드는 식이에요.

영상 생성과 만나는 자리

최근에는 다음 화면을 그림으로 직접 만들어 내는 형태가 나오고 있어요. 방향키를 누르면 그에 맞는 다음 장면이 만들어지고, 또 누르면 그다음 장면이 만들어지는 식이라 화면 자체가 예측 결과예요.

그럴듯해 보이는 것과 쓸모 있는 것은 다르다는 점은 짚어 둘 만해요. 눈으로 보기에 매끄러워도 조작에 일관되게 반응하지 않거나, 방금 지나온 자리로 돌아갔을 때 다른 모습이 나오면 계획에 쓸 수 없어요. 보기 좋은 화면을 만드는 능력과 세상의 이어짐을 붙들어 두는 능력은 따로 평가해야 해요.