AI 워터마크AI Watermark

1결과물 안쪽에 숨겨서 심어요

워터마크는 눈에 보이는 덧칠이 아니라 결과물 안쪽에 숨겨 넣는 신호예요. 만드는 과정에 끼어들어 심기도 하고, 다 만든 직후 내보내기 전에 별도 도구로 심기도 해요. 그림을 만드는 모델이라면 점을 찍는 단계에서 정해진 규칙에 따라 아주 미세한 치우침을 함께 넣고, 글을 쓰는 모델이라면 비슷하게 어울리는 여러 낱말 가운데 정해진 쪽을 조금 더 자주 고르게 해요.

치우침은 한 군데만 보면 우연과 구별되지 않아요. 결과물 전체에 흩뿌려 놓고 한꺼번에 모아서 셀 때 비로소 "우연으로 보기 어려운 무늬"가 드러나요. 그래서 일부가 잘려 나가도 남은 부분에서 확인이 되곤 해요.

심는 규칙을 아는 쪽이 넣는 것이라 남이 아무렇게나 붙이기는 쉽지 않아요. 이미 만들어진 남의 사진에 AI 워터마크를 심어 "이건 AI가 만든 것"이라고 뒤집어씌우는 일은 쉽지 않아요. 다만 워터마크가 든 결과물을 손에 넣으면 그 무늬를 다른 사진에 옮겨 심는 '위조' 방법도 연구로 나와 있어서, 표시가 있다는 것만으로 AI가 만들었다고 단정할 수는 없어요.

2눈에 띄지 않아야 쓸모가 있어요

워터마크에는 서로 잡아당기는 두 가지 목표가 있어요. 눈에 안 띌수록 좋고, 험하게 다뤄도 남을수록 좋아요. 그런데 이 둘은 반대로 움직여요. 표시를 진하게 심으면 오래 버티지만 화질이 상하고, 옅게 심으면 티가 안 나지만 쉽게 씻겨요.

그래서 사람이 잘 알아차리지 못하는 자리를 골라 심어요. 매끈한 하늘보다는 무늬가 복잡한 풀숲, 조용한 곳보다는 소리가 복잡한 구간처럼 사람 감각이 둔한 자리예요. 눈과 귀가 무딘 틈에 표시를 숨기는 셈이에요.

3확인은 표를 아는 쪽만 할 수 있어요

심은 무늬는 아무나 읽지 못해요. 어떤 규칙으로 어디에 흩뿌렸는지 아는 쪽의 검사 도구가 있어야 "이 결과물에는 표시가 있다"고 말할 수 있어요. 검사 결과도 예 또는 아니오가 아니라 얼마나 확실한지의 점수로 나와요.

이 점수에는 기준선을 그어야 하는데, 그으면 두 가지 실수가 따라와요. 기준을 낮추면 사람이 만든 것을 AI 것으로 잘못 표시하고, 높이면 AI가 만든 것을 놓쳐요. 어느 쪽 실수가 더 곤란한지에 따라 기준선을 옮겨 잡아요.

만드는 곳마다 규칙이 다르면 확인하는 쪽이 도구를 여러 개 들고 다녀야 해요. 표시 방식을 서로 맞추자는 논의가 이어지고 있지만 아직 하나로 모이지는 않았어요.

4지워질 수 있어요

가장 중요한 한계예요. 편집과 변환을 여러 번 거치면 표시가 약해지거나 사라질 수 있어요. 얼마나 버티는지는 방식마다 달라요. 표시를 겨냥해 지우는 도구도 나와 있어요.

표시가 없다고 사람이 만든 것은 아니에요. 표시를 넣지 않는 도구로 만들었거나, 넣었는데 옮겨 담는 동안 사라졌을 수 있으니까요. 워터마크는 "없으면 사람 것이다" 쪽으로는 거의 쓸 수 없다는 데 대체로 의견이 모여요. "있으면 AI 것이 맞다" 쪽은 비교적 믿을 만하다는 견해와, 위조·오탐 가능성 때문에 다른 근거와 함께 봐야 한다는 견해가 함께 있어요.

5글에 심는 건 더 어려워요

그림이나 소리에는 사람이 못 알아채는 여백이 넉넉해요. 글에는 그 여백이 훨씬 적어요. 낱말 하나를 바꾸면 뜻이 달라지고, 문장이 짧으면 무늬를 흩뿌릴 자리 자체가 모자라요.

게다가 글은 다듬기가 쉬워요. 다른 도구로 통째로 고쳐 쓰면 심어 둔 치우침이 크게 약해질 수 있어요. 다만 고쳐 쓴 뒤에도 글이 길면 흔적이 남아 확인된다는 연구도 있어서, 얼마나 버티는지는 아직 견해가 갈려요. 짧은 글에서는 확인을 기대하기 더 어려워요.