텐서Tensor

숫자를 여러 축으로 정리해 담은 묶음

핵심 정리
  • 텐서는 숫자를 여러 축으로 정리해 담은 묶음이에요. 어려운 수학 개념이 아니라 정리 방식이에요.
  • 축이 하나면 줄, 둘이면 격자, 셋이면 상자예요. 축을 하나 더하는 건 상자를 상자째 쌓는 일이에요.
  • 텐서에는 모양이 있어요. 축마다 몇 칸인지를 순서대로 적은 것이 모양이에요.
  • 딥러닝 도구가 내는 오류의 상당수는 모양이 안 맞아서 생겨요.
  • 숫자를 이렇게 묶어 두면 같은 계산을 수많은 칸에 한꺼번에 적용할 수 있어서 계산이 빨라요.
목차

1비유로 이해하기

아파트 단지에서 어느 집을 찾으려면 숫자가 몇 개 필요할까요. 집이 딱 한 채뿐이라면 숫자가 필요 없어요. 그냥 그 집이에요.

한 층에 여러 집이 나란히 있으면 "몇 호"라는 숫자 하나가 필요해요. 층이 여러 개면 "몇 층 몇 호"로 숫자 둘이 필요하고, 동이 여러 개면 "몇 동 몇 층 몇 호"로 셋이 필요해요. 단지가 여러 곳인 도시라면 숫자가 넷이 되겠죠.

집이 어려워진 게 아니라 정리 단계가 늘어난 거예요. 한 칸을 가리키는 데 필요한 숫자의 개수, 그것이 텐서의 축 개수예요. 텐서는 이렇게 여러 겹으로 정리해 둔 숫자 창고예요.

2자세히 알아보기

축이 하나씩 늘어나는 장면

숫자 하나를 손에 쥐어 봐요. 온도 하나, 점수 하나. 이건 축이 없는 상태예요. 가리킬 자리가 하나뿐이라 번호를 붙일 필요가 없어요.

이걸 여러 개 한 줄로 세우면 축이 하나 생겨요. 몇 번째인지만 말하면 원하는 숫자를 꺼낼 수 있어요. 한 사람의 과목별 점수를 나란히 적어 둔 줄 같은 거예요.

그 줄을 여러 개 위아래로 쌓으면 축이 둘이에요. 반 전체의 성적표처럼 몇 번째 줄, 몇 번째 칸을 말해야 한 칸을 집어낼 수 있어요. 그 성적표를 학년마다 한 장씩 겹쳐 두면 축이 셋이 돼요. 이렇게 축은 얼마든지 더 늘릴 수 있어요.

모양이 텐서의 신분증이에요

텐서를 설명할 때 가장 많이 쓰는 말이 모양이에요. 축마다 몇 칸인지를 순서대로 적은 것이 모양이에요. 세 동짜리 단지에 각 동이 열 층이고 층마다 네 집이면, 모양은 세 개의 숫자로 적혀요.

모양은 안에 든 값과 상관없어요. 값이 전부 0이든 제각각이든 모양은 같아요. 반대로 값이 같아도 정리 방식이 다르면 모양이 달라져요. 같은 열두 개의 숫자를 한 줄로 늘어놓을 수도, 세 줄 네 칸으로 놓을 수도 있으니까요.

그래서 딥러닝 도구를 쓰다 보면 모양을 바꾸는 일을 자주 해요. 내용은 그대로 두고 정리 방식만 바꾸는 거라, 창고에 든 물건을 그대로 두고 선반 배치만 바꾸는 것과 비슷해요.

모양이 안 맞으면 계산이 멈춰요

두 텐서를 더하거나 곱하려면 축의 길이가 서로 맞아야 해요. 세 칸짜리 줄과 네 칸짜리 줄은 짝을 지을 수 없어요. 딥러닝 코드를 돌릴 때 가장 자주 만나는 오류가 이 모양 어긋남이에요.

사람 눈에는 같아 보여도 기계는 다르게 봐요. 한 칸짜리 축이 하나 더 붙어 있는지, 축의 순서가 뒤집혀 있는지 같은 차이가 계산을 막아요.

그래서 모델을 다루는 사람들은 값을 들여다보기 전에 모양부터 확인해요. 모양이 맞으면 계산은 대체로 흘러가고, 어긋나면 그 자리에서 멈추거든요.

AI 안에서 텐서가 오가는 모습

언어 모델에 문장을 넣으면 먼저 조각으로 나뉘어요. 조각마다 수천 개의 숫자를 들고 있으니, 문장 하나가 이미 축 두 개짜리 텐서예요. 조각 순서가 한 축, 조각이 든 숫자가 다른 축이에요.

한 번에 여러 문장을 넣으면 축이 하나 더 붙어요. 몇 번째 문장, 몇 번째 조각, 몇 번째 숫자 이렇게요. 사진은 다른 방식으로 셋이에요. 가로 위치, 세로 위치, 그리고 색.

모델 안에서 벌어지는 일은 이 텐서를 층마다 다른 모양으로 바꿔 가는 과정이에요. 마지막에는 다음에 올 조각의 후보마다 점수 하나씩이 든 줄 하나가 남고, 거기서 답이 골라져요.

3조금 더 정확하게

텐서는 같은 종류의 숫자를 여러 축으로 정리한 묶음이고, 축의 개수를 차수 또는 랭크라고 불러요. 축이 하나면 벡터, 둘이면 행렬이고, 그 이상까지 통틀어 부르는 말이 텐서예요. 축이 없는 숫자 하나도 축이 0개인 텐서로 쳐요.

수학과 물리에서 말하는 텐서는 좌표계를 바꿔도 정해진 규칙대로 변환되는 대상이라는 더 엄격한 뜻이에요. 딥러닝에서 쓰는 텐서는 그보다 느슨해서, 여러 축을 가진 숫자 배열이라는 의미에 가까워요.

비유가 어긋나는 곳도 있어요. 아파트 주소에는 동·층·호라는 이름이 붙어 있지만 텐서의 축에는 이름이 없고 순서만 있어요. 그래서 축 순서를 헷갈리는 실수가 잦아요. 또 아파트는 동마다 층수가 달라도 되지만, 텐서는 같은 축이면 길이가 모두 같아야 하고 빈칸도 허용되지 않아요. 길이가 다른 문장을 함께 넣을 때 짧은 쪽을 빈 조각으로 채워 길이를 맞추는 것도 그래서예요.

4직접 해보기

5흔한 오해

  • 텐서가 벡터나 행렬과 다른 별개의 것이라고 생각하기 쉽지만, 실제로는 벡터와 행렬을 포함해 축이 몇 개든 통틀어 부르는 이름이에요.

  • 축이 많을수록 더 좋은 데이터라고 여기기 쉽지만, 실제로는 다루는 대상에 맞는 축 개수가 있을 뿐 많다고 나은 게 아니에요.

  • 텐서를 이해하려면 어려운 수학이 필요하다고 겁내기 쉽지만, 실제로는 숫자를 어떻게 정리해 담았는지를 보는 게 거의 전부예요.

7한 줄 요약

그러니까텐서는 숫자를 여러 축으로 정리해 담은 묶음이고, 축이 몇 개인지와 축마다 몇 칸인지를 적은 모양이 계산이 되고 안 되고를 정해요.

잘못된 내용이나 더 좋은 비유가 있나요? 수정 제안 보내기 · 마지막 수정2026-09-02