핵심 정리
- 신경망은 간단한 계산 자리를 잔뜩 이어 붙인 구조예요. 자리 하나하나가 하는 일은 아주 단순해요.
- 자리들은 층으로 묶여 있고, 기본적인 신경망에서 신호는 앞 층에서 뒤 층으로 흐르며 조금씩 다른 모습으로 바뀌어요.
- 자리 사이를 잇는 줄마다 세기 조절 손잡이가 달려 있어요. 학습은 이 손잡이들을 조금씩 돌리는 일이에요.
- 사람이 규칙을 적어 넣지 않아요. 답이 빗나간 만큼 거꾸로 되짚어 손잡이를 고치는 일을 수없이 반복해요.
- 뇌를 흉내 낸 이름이지만 실제 뇌와는 다른 점이 많아요. 얼마나 닮았는지는 견해가 갈리고, 이름에서 온 오해가 특히 많아요.
비유로 이해하기
오케스트라가 한 곡을 연주할 때, 소리를 만드는 자리는 하나가 아니에요. 현악기 자리, 관악기 자리, 타악기 자리가 저마다 자기 몫의 소리만 내요. 어느 악기 하나만 떼어 놓고 들으면 곡이라고 하기 어려운 단순한 소리예요. 그런데 그 소리들이 정해진 세기로 겹쳐지면 한 곡이 돼요. 신경망은 이렇게 단순한 소리 자리를 잔뜩 모아 하나의 답을 만드는 구조예요.
자리마다 소리 크기가 다르게 맞춰져 있다는 점이 중요해요. 어떤 자리는 크게, 어떤 자리는 배경에 깔릴 만큼 작게 나와요. 이 크기 배합이 곡의 인상을 정해요. 악기 구성이 같아도 배합이 달라지면 전혀 다른 곡이 들려요.
연습도 이 배합을 맞추는 일이에요. 합주해 보고 어색한 대목이 있으면 그 부분을 맡은 자리의 소리를 조금 줄이거나 키워요. 이 손질을 수없이 되풀이하면 곡이 자리를 잡아요.
자세히 알아보기
자리 하나가 하는 일은 아주 단순해요
신경망을 이루는 계산 자리 하나가 하는 일은 놀랄 만큼 단순해요. 여러 곳에서 들어온 숫자에 각자의 세기를 곱해 모두 더하고, 그 합을 정해진 규칙에 통과시켜 다음으로 얼마나 내보낼지 정하는 것이 전부예요. 악기 하나가 정해진 음 하나를 내는 일과 비슷해요.
이 단순함이 오히려 힘이에요. 하는 일이 단순하니 자리를 수만 개, 수억 개로 늘려도 계산이 감당돼요. 그리고 자리가 많아질수록 겹쳐 만들 수 있는 소리의 폭이 넓어져요.
얼마나 내보낼지 정하는 이 규칙(활성 함수)도 중요해요. 이 규칙이 곧은 직선이면 아무리 자리를 늘려도 결국 한 번에 계산한 것과 같아져요. 합주로 치면 모든 악기가 똑같이 밋밋하게만 울리는 상태예요.
층으로 쌓여 신호가 흘러가요
자리들은 흩어져 있지 않고 층으로 묶여 있어요. 들어오는 값을 받는 입력층, 답을 내놓는 출력층, 그 사이에 있는 중간층이에요. 가장 기본적인 신경망에서는 신호가 앞 층에서 뒤 층으로 한 방향으로 흘러요.
층을 지날 때마다 다루는 것의 크기가 달라져요. 손글씨 숫자를 알아보는 신경망, 특히 그림에 맞춘 구조에서는 앞쪽 층이 짧은 선이나 굽은 모서리 같은 조각에, 뒤쪽 층이 그 조각들이 모여 만든 고리나 꼬리 모양에 반응하는 경향이 관찰되기도 해요. 다만 늘 사람이 알아보기 쉬운 조각으로 나뉘는 건 아니에요. 마지막 층에 가서야 어떤 숫자인지가 정해져요.
오케스트라에서 파트별 소리가 먼저 만들어지고, 그것들이 합쳐져 악절이 되고, 악절이 모여 곡이 되는 순서와 닮았어요. 층을 깊게 쌓을수록 더 복잡한 모양을 다룰 수 있지만, 그만큼 신호가 흐려지기 쉬워 관리할 것도 늘어나요.
손잡이를 돌리는 일이 학습이에요
자리와 자리를 잇는 줄마다 세기 조절 손잡이가 하나씩 달려 있어요. 이 손잡이 값들(과 자리마다 더하는 작은 상수)이 신경망이 배운 내용의 거의 전부예요. 큰 모델에서 수십억에서 수천억 개, 많게는 조 단위라고 말하는 숫자가 바로 이런 값의 수예요.
처음에는 손잡이가 아무렇게나 맞춰져 있어요. 그 상태로 답을 내보면 당연히 엉망이에요. 그러면 정답과 얼마나 벌어졌는지를 재고, 그 벌어진 정도를 뒤 층에서 앞 층으로 거꾸로 되짚어 가며 어느 손잡이를 어느 쪽으로 얼마나 돌려야 할지 계산해요.
한 번에 크게 돌리지 않아요. 아주 조금씩만 옮기고 다시 답을 내보는 일을 수없이 반복해요. 합주에서 한 번에 완성하려 들지 않고 마디마디 조금씩 다듬는 것과 같아요. 사람이 규칙을 적어 넣는 대목은 어디에도 없어요.
뇌를 닮았다는 이름이 만든 오해
신경망이라는 이름은 뇌의 신경 세포에서 왔어요. 여러 곳에서 신호를 받아 일정 수준을 넘으면 다음으로 내보낸다는 아이디어를 가져온 건 맞아요. 하지만 닮은 점은 그 정도의 큰 발상이 중심이에요. 일부 구조는 뇌의 시각 영역 연구에서 아이디어를 더 빌려 오기도 했고, 얼마나 닮았는지는 연구자마다 보는 눈이 달라요.
실제 뇌의 신경 세포는 훨씬 복잡하게 움직이고, 화학 물질과 시간의 흐름까지 얽혀 있어요. 신경망의 자리는 곱하고 더하는 계산일 뿐이에요. 학습 방식도 그대로 같다고 보기는 어려워요. 신경망은 답이 빗나간 정도를 거꾸로 되짚는 방식으로 배우는데, 뇌가 정확히 이런 방식으로 배우는지는 밝혀지지 않았어요. 비슷한 원리를 쓸 수도 있다는 연구가 있지만, 아직 결론이 나지 않았어요.
그래서 신경망이 생각하거나 이해한다고 말할 수 있는지는 견해가 갈려요. 적어도 사람 뇌와 같은 방식으로 그렇게 한다고 보기는 어려워요. 오케스트라가 곡을 감동적으로 연주해도 악기가 감정을 느끼는 건 아니라는 비유를 드는 쪽도 있어요.
조금 더 정확하게
신경망은 여러 개의 층으로 이어진 함수 덩어리예요. 각 층은 들어온 값들에 가중치를 곱해 더한 뒤 상수를 하나 보태고, 그 결과를 활성 함수에 통과시켜 다음 층으로 보내요. 활성 함수가 없으면 층을 아무리 쌓아도 하나의 층과 다를 바 없어져요. 학습은 출력과 정답의 차이를 손실로 재고, 그 손실을 각 가중치에 대해 되짚어 조금씩 갱신하는 과정이에요. 층을 깊게 쌓은 것을 특별히 깊은 신경망이라 부르고, 그것을 다루는 분야가 딥러닝이에요.
비유가 어긋나는 지점도 있어요. 오케스트라에는 악보와 지휘자가 있어서 무엇을 어떻게 연주할지 미리 정해져 있지만, 신경망에는 악보가 없어요. 세기 배합을 자료만 보고 스스로 찾아내야 해요. 또 오케스트라는 시간에 따라 소리가 흐르지만, 기본적인 신경망은 앞뒤 순서 없이 한 번에 계산이 지나가요. 순서를 다루려면 구조를 따로 바꿔야 해요.
직접 해보기
흔한 오해
신경망이 사람 뇌와 같은 방식으로 작동한다고 생각하기 쉽지만, 실제로는 신호를 모아 내보낸다는 발상 등 일부 아이디어를 빌렸을 뿐이고, 세포 하나가 움직이는 방식도 배우는 방식도 그대로 같다고 할 근거는 없어요.
층을 깊게 쌓을수록 무조건 똑똑해진다고 여기기 쉽지만, 실제로는 층을 그냥 쌓기만 하면 오히려 학습이 잘 안 되는 문제가 생길 수 있어서, 깊게 쌓으려면 이를 막는 구조와 요령이 함께 필요해요.
신경망 안에 사람이 읽을 수 있는 규칙이 적혀 있다고 보기 쉽지만, 실제로는 배운 내용이 수많은 손잡이 값에 흩어져 있어서 왜 그 답을 냈는지 바로 읽어 내기 어려워요. 안을 들여다보고 일부를 읽어 내려는 연구가 이어지고 있어요.
한 줄 요약
신경망은 단순한 계산 자리를 층으로 잇고 그 사이 세기를 조금씩 맞춰 가며 답을 만들어 내는 구조예요.
잘못된 내용이나 더 좋은 비유가 있나요? 수정 제안 보내기 · 마지막 수정 2026-10-17