워드투벡 (Word2Vec) 뜻 — 비유로 쉽게

1비유로 이해하기

야구 중계를 보다 보면 선수 이름을 몰라도 그 자리가 어떤 역할인지 짐작이 가요. 1번과 3번 사이에 서는 선수, 4번 뒤에 붙는 선수는 하는 일이 다르니까요. 여러 경기의 타순표를 쌓아 놓고 보면, 늘 비슷한 앞뒤 이웃을 두는 선수들이 눈에 들어와요. 그런 선수들끼리는 서로 자리를 바꿔 놓아도 라인업이 크게 어색해지지 않아요.

워드투벡은 낱말을 이렇게 익혀요. 사전에서 뜻을 가져오는 대신, 그 낱말이 문장에서 어떤 이웃을 두고 나왔는지를 엄청나게 많이 모아요. 앞뒤가 비슷한 낱말들은 서로 바꿔 놓아도 문장이 크게 이상해지지 않고, 그런 낱말끼리는 가까운 자리에 놓여요.

여기서 자리는 말 그대로 좌표예요. 낱말마다 숫자 묶음이 하나씩 붙고, 그 숫자가 낱말의 자리를 정해요.

2자세히 알아보기

뜻을 적어 주지 않고 이웃으로 익혀요

학습 방법은 놀랄 만큼 단순해요. 문장에서 낱말 하나를 가리고, 그 앞뒤 몇 칸에 어떤 낱말이 있었는지 맞혀 보게 해요. 반대로 앞뒤 이웃을 주고 가운데 낱말을 맞히게 하는 방식도 있어요. 맞히면 지금 좌표를 그대로 두고, 틀리면 좌표를 조금씩 옮겨요.

이 일을 수억 문장에 대해 되풀이하면, 비슷한 자리에 나오던 낱말들이 저절로 가까이 모여요. "커피"와 "홍차"는 마시다, 잔, 뜨겁다 같은 이웃을 나눠 갖기 때문에 서로 가까워지고, "커피"와 "볼트"는 함께 나올 일이 거의 없어 멀어져요.

사람이 뜻을 정의해 준 적은 한 번도 없어요. 함께 나온 기록만으로 뜻에 가까운 무언가가 만들어져요. 이 생각은 언어학에서 오래전부터 있던 것이고, 워드투벡은 그것을 계산으로 값싸게 해내는 길을 열었어요.

낱말이 숫자 좌표가 돼요

학습이 끝나면 낱말마다 숫자 묶음이 하나씩 남아요. 보통 수십에서 수백 개의 숫자예요. 이 숫자들이 아주 넓은 공간 속 한 점의 위치를 가리켜요.

우리가 볼 수 있는 건 두세 방향뿐이지만, 실제 공간은 훨씬 여러 방향으로 펼쳐져 있어요. 어떤 방향은 요리와 관련된 성질을, 어떤 방향은 딱딱함과 부드러움을 나눠 담는 식이에요. 다만 각 방향이 무엇을 뜻하는지 사람이 정한 게 아니라서, 이름을 붙일 수는 없어요.

이렇게 바꿔 두면 낱말끼리 얼마나 비슷한지를 거리로 잴 수 있어요. 검색에서 다른 단어를 쓴 문서를 찾아 주거나, 추천에서 비슷한 항목을 묶는 일이 여기서 시작돼요.

좌표 사이의 방향에 관계가 담겨요

워드투벡이 널리 알려진 이유는 좌표들이 놓인 모양이 뜻밖에 규칙적이었기 때문이에요. 어떤 나라에서 그 나라의 수도로 가는 방향이, 다른 나라에서도 거의 같은 방향이었어요. 낱말의 단수와 복수, 원형과 과거형 사이에도 비슷한 규칙이 보였어요.

그래서 좌표를 더하고 빼는 것만으로 관계를 옮겨 볼 수 있어요. 한 나라의 자리에서 그 나라 수도로 향하는 방향을 다른 나라에 그대로 적용하면 그 나라의 수도 근처에 닿는 식이에요.

이 규칙이 언제나 맞지는 않아요. 잘 되는 관계가 있고 엉뚱한 곳에 닿는 관계도 있어요. 그래도 사람이 규칙을 넣어 주지 않았는데 이런 구조가 생겼다는 사실이 당시에는 큰 놀라움이었어요.

한 낱말에 자리 하나라는 한계

워드투벡의 가장 큰 약점은 낱말마다 좌표가 딱 하나라는 점이에요. "배가 아프다"의 배와 "배를 타다"의 배가 같은 자리를 나눠 써요. 두 뜻이 섞인 어중간한 위치에 놓이는 셈이라, 어느 쪽 문장에서도 딱 맞지 않아요.

문장 안에서의 순서도 거의 못 담아요. 창 안에 어떤 낱말이 있었는지만 보지, 그 낱말이 앞에 있었는지 뒤에 있었는지는 크게 따지지 않아요. 학습 자료에 담긴 치우침을 그대로 가져오는 문제도 있어요. 직업과 성별을 잇는 방향이 만들어져 버리는 일이 대표적이에요.

지금의 언어 모델은 이 한계를 넘어섰어요. 낱말마다 고정된 자리를 주는 대신, 같은 낱말도 문장에 따라 다른 좌표를 갖게 만들어요. 워드투벡은 그 출발점에 있는 방법이고, 낱말을 숫자로 바꿔 다룬다는 발상 자체가 여기서 널리 퍼졌어요.

3조금 더 정확하게

워드투벡은 2013년 무렵 공개된 학습 방법으로, 가운데 낱말로 이웃을 맞히는 방식과 이웃으로 가운데 낱말을 맞히는 방식 두 가지가 있어요. 층이 하나뿐인 아주 얕은 신경망을 쓰고, 학습이 끝나면 신경망 자체가 아니라 그 안에 만들어진 낱말별 숫자 묶음을 결과물로 꺼내 써요.

비유가 어긋나는 지점도 있어요. 야구 타순은 아홉 자리뿐이고 감독이 뜻을 갖고 짜지만, 낱말의 좌표는 수백 개 방향으로 펼쳐진 공간에 있고 누구도 자리를 정해 주지 않아요. 또 타순의 이웃은 정해진 순서가 있지만, 워드투벡이 보는 이웃은 앞뒤 몇 칸 안에 있기만 하면 되고 순서는 거의 따지지 않아요. 가까이 있다는 말도 우리가 아는 거리와 조금 달라서, 실제로는 원점에서 뻗은 방향이 얼마나 비슷한지로 재는 경우가 많아요. 학습에 쓴 글이 달라지면 자리도 통째로 달라지기 때문에, 서로 다른 곳에서 만든 좌표를 섞어 쓸 수도 없어요.

4직접 해보기

5흔한 오해

워드투벡이 낱말의 뜻을 안다고 생각하기 쉽지만, 실제로는 함께 나온 이웃의 통계를 모아 자리를 정한 것뿐이에요.
가까이 있으면 뜻이 비슷하다고 여기기 쉽지만, 실제로는 반대말끼리도 이웃이 비슷해서 가까이 놓이는 일이 흔해요.
지금 챗봇도 이 방식으로 낱말을 다룬다고 생각하기 쉽지만, 실제로는 같은 낱말도 문장에 따라 좌표가 달라지는 방식으로 바뀌었어요.

7한 줄 요약

그러니까워드투벡은 낱말을 앞뒤 이웃으로 익혀 좌표에 앉히는 방법이고, 낱말을 숫자로 다루는 오늘날 방식의 출발점이에요.

이 비유가 이해에 도움이 됐나요?

잘못된 내용이나 더 좋은 비유가 있나요? 수정 제안 보내기 · 마지막 수정2026-09-02