음성 복제Voice Cloning

짧은 녹음으로 남의 목소리를 흉내 내기

핵심 정리
  • 음성 복제는 짧은 녹음만으로 그 사람의 목소리 결을 흉내 내 새로운 말을 만들어 내는 기술이에요.
  • 목소리와 말할 내용이 따로 놀아요. 그래서 그 사람이 한 적 없는 말도 그 목소리로 나올 수 있어요.
  • 몇 초에서 몇 분 정도의 녹음이면 되고, 그 녹음은 어디서든 구할 수 있어요.
  • 목소리를 잃은 사람을 돕는 쓰임이 있는 만큼, 사칭과 사기에 쓰이는 일도 늘었어요.
  • 동의를 받았는지, 만든 소리임을 밝혔는지가 옳고 그름을 가르는 기준이에요.
목차

1비유로 이해하기

방명록에 남긴 서명 몇 개만 있으면 필적을 흉내 낼 수 있어요. 기울기, 획을 잇는 버릇, 마지막에 힘을 주는 자리 몇 가지만 익히면 되니까요. 그다음부터가 문제예요. 흉내 낸 필적으로는 그 사람이 쓴 적 없는 문장을 얼마든지 새로 적을 수 있어요. 방명록에 남은 것은 인사말 한 줄이었는데, 같은 글씨로 전혀 다른 내용이 적힌 종이가 돌아다닐 수 있는 거예요.

음성 복제가 하는 일이 이것이에요. 어딘가에 남은 목소리 몇 마디에서 그 사람의 결을 뽑아내고, 그 결로 새 문장을 읽어 내요. 원래 녹음에 없던 말이라도 그 사람 목소리로 나와요.

2자세히 알아보기

몇 마디면 충분해요

예전에는 한 사람의 목소리를 만들려면 녹음실에서 몇 시간씩 읽어야 했어요. 지금은 다르게 해요. 수많은 사람의 목소리를 미리 두루 배워 둔 다음, 새 사람의 목소리는 특징만 짧게 받아 그 위에 얹어요.

받아 내는 것은 목소리의 결을 담은 숫자 묶음이에요. 목청이 떨리는 높이대, 울림의 모양, 발음하는 습관 같은 것이 여기 담겨요. 이 묶음을 읽어 주는 기술에 함께 넣어 주면, 같은 문장이 그 사람의 결로 나와요.

그래서 필요한 녹음이 짧아요. 통화 몇 마디, 짧은 영상 하나, 자동 응답기에 남긴 인사말이면 되는 수준이에요. 목소리는 이미 곳곳에 흩어져 있고, 모으는 데 허락이 필요하지 않다는 점이 문제의 시작이에요.

목소리와 내용은 따로예요

복제된 목소리는 녹음을 이어 붙인 것이 아니에요. 결만 빌려 오고 말할 내용은 새로 적어 넣어요. 그래서 원래 녹음에 한 번도 나오지 않은 낱말, 심지어 다른 언어도 그 목소리로 읽힐 수 있어요.

이것이 흉내와 다른 점이에요. 사람이 성대모사를 하면 잘해야 비슷한 정도지만, 복제된 목소리는 결 자체를 가져와요. 가족이 전화로 듣고 구분하기 어려운 수준까지 왔고, 배경 잡음이 섞이는 통화에서는 더 어려워요.

도움이 되는 자리도 있어요

병으로 목소리를 잃을 상황에 놓인 사람이 미리 자기 목소리를 남겨 두었다가, 나중에 그 목소리로 이야기하는 데 써요. 이미 목소리를 잃은 사람도 예전 녹음이 남아 있으면 되찾을 수 있고요.

콘텐츠 쪽에서도 널리 쓰여요. 오디오북 낭독, 영상의 다른 언어 더빙, 게임 속 대사처럼 사람이 일일이 녹음하기에는 양이 너무 많은 곳이에요. 이런 자리에서는 목소리의 주인과 미리 계약하고 쓰는 범위를 정해 둬요.

허락 없이 쓰면 무엇이 문제인가

가장 흔한 피해는 사칭이에요. 가족의 목소리로 급하게 돈을 보내 달라고 하는 전화, 회사 윗사람의 목소리로 송금을 지시하는 통화 같은 것들이에요. 목소리는 사람이 가장 쉽게 믿는 단서라 의심할 틈이 잘 안 생겨요.

목소리로 본인을 확인하는 곳도 위험해졌어요. 목소리 하나만으로 문을 여는 방식은 이제 그것만 믿기 어렵게 됐어요. 하지도 않은 말이 그 사람의 목소리로 퍼지면 명예가 걸린 문제가 되고, 세상을 떠난 사람의 목소리를 유족의 뜻과 상관없이 되살리는 일도 다툼이 돼요.

일감이 걸린 문제이기도 해요. 목소리로 일하는 사람들에게는 한 번 녹음한 목소리가 계약 범위 밖에서 무한히 쓰이는 상황이 생겨요. 그래서 어디까지 쓸 수 있는지, 다시 쓸 때마다 어떻게 할지를 계약에 적어 두는 일이 중요해졌어요.

어떻게 대처하나

만드는 쪽에서는 만들어진 소리라는 표시를 남겨요. 사람 귀에는 들리지 않지만 검사하면 드러나는 표식을 소리에 새기거나, 이 파일이 어디서 어떻게 만들어졌는지를 기록으로 붙여요. 다만 잘라 붙이거나 다시 녹음하면 표식이 지워질 수 있어서 완전하지는 않아요.

가려내는 쪽도 있어요. 사람 목소리에는 있고 만들어진 소리에는 잘 안 나타나는 흔적을 찾는 방식이에요. 하지만 만드는 기술이 좋아지면 가려내기는 다시 어려워져서, 검사 결과만 믿기보다 다른 방법과 함께 쓰는 편이 나아요.

일상에서 할 수 있는 대비가 오히려 확실해요. 가족끼리 전화로만 통하는 확인 질문을 하나 정해 두기, 돈이 걸린 이야기는 반드시 끊고 다시 걸어 확인하기, 목소리만으로 본인 확인을 끝내는 서비스는 쓰지 않기 같은 것들이에요. 많은 나라에서 동의 없이 남의 목소리를 만들어 쓰는 일을 법으로 다루기 시작했고, 피해를 신고할 수 있는 창구도 늘고 있어요.

3조금 더 정확하게

만드는 방식은 크게 둘로 나뉘어요. 글을 넣으면 그 사람의 목소리로 읽어 주는 쪽과, 다른 사람이 말한 녹음을 그 사람의 목소리로 갈아 끼우는 쪽이에요. 뒤쪽은 억양과 감정까지 원본 연기를 그대로 따라가서 더 자연스럽게 들려요. 어느 쪽이든 목소리의 결을 담은 묶음을 만들고, 그 묶음을 조건으로 넣어 소리를 만들어 내는 구조는 같아요. 짧은 녹음만으로 새 목소리를 다루는 방식을 따로 이르는 말도 있어요.

비유가 어긋나는 지점도 있어요. 서명은 위조해도 필체 감정으로 가려낼 여지가 남지만, 복제된 목소리는 원본과 물리적으로 같은 재료로 만들어져서 귀로는 거의 구분되지 않아요. 게다가 서명 위조는 사람이 손으로 한 장씩 해야 하지만, 목소리 복제는 한 번 만들어 두면 몇 시간 분량이든 순식간에 찍어 낼 수 있어요. 규모와 속도가 다른 문제라서 대응도 개인의 주의만으로는 부족해요.

4직접 해보기

5흔한 오해

  • 긴 녹음이 있어야 복제할 수 있다고 생각하기 쉽지만, 실제로는 통화 몇 마디 수준의 짧은 녹음으로도 제법 비슷한 목소리가 나와요.

  • 잘 들으면 사람이 구분할 수 있다고 여기기 쉽지만, 실제로는 잡음이 섞이는 통화에서 가족의 목소리조차 가려내기 어려워요.

  • 목소리를 복제하는 것 자체가 불법이라고 생각하기 쉽지만, 실제로는 본인이 동의한 쓰임도 많고 문제가 되는 것은 동의 없이 속이는 데 쓰는 경우예요.

7한 줄 요약

그러니까음성 복제는 방명록에 남은 서명 몇 개로 필적을 흉내 내 새 문장을 적는 일과 같고, 하지 않은 말이 그 사람 목소리로 돌아다닐 수 있다는 점이 핵심 위험이에요.

잘못된 내용이나 더 좋은 비유가 있나요? 수정 제안 보내기 · 마지막 수정2026-09-02