Deepfake

La imitación se reparte en tres ramas

Al oír deepfake casi todo el mundo piensa en cambiar caras, pero las ramas son tres. La primera es el cambio de cara: al personaje de un video se le sustituye solo la cara. La segunda es el ajuste de labios: la cara se deja igual y se redibujan labios y mandíbula para que encajen con un diálogo nuevo, que es la técnica del doblaje a otros idiomas. La tercera es la clonación de voz: con unos segundos de grabación se fabrica una voz que arrastra la entonación y hasta la respiración.

El daño más grave hoy viene de mezclar las tres. Si en una videollamada se superpone una cara y encima se monta la voz, para quien recibe la llamada no hay diferencia con hablar con alguien conocido.

Cómo se aprende la imitación

Igual que ensaya un imitador, la IA empieza reuniendo material. Para la cara, fotos y video desde varios ángulos; para la voz, basta con una grabación corta.

El paso siguiente es extraer rasgos. Los métodos iniciales entrenaban a comprimir una cara hasta dejarla en muy poco y luego reconstruirla, y así se obtenía un resumen con la posición de ojos, nariz y boca y la expresión. A eso se sumó el enfoque en el que una parte fabrica falsificaciones y otra intenta cazarlas, subiendo las dos de nivel a la vez: la GAN (Generative Adversarial Network, red generativa antagónica). Con ella los resultados empezaron a resultar convincentes.

Lo que ha disparado la nitidez ahora es el método de difusión, que parte de una pantalla llena de ruido y rescata la imagen poco a poco. Como empieza borroso y afina en muchas pasadas, las zonas que antes se rompían, como las puntas del pelo o las sombras, salen naturales.

Por qué el ojo ya no basta

Antes había trucos: parpadea poco, los dedos salen raros, el cuello y la cara no tienen el mismo tono de piel. Esos trucos duraron poco. En cuanto se difunde una pista para detectarlos, el modelo siguiente se entrena precisamente para tapar esa debilidad.

Y lo que nos llega no es el archivo original en buena calidad, sino un video machacado tras pasar por varios chats de grupo o una voz aplastada por la compresión de una llamada. Las costuras se pierden ahí dentro. Se suma un detalle nada menor: cuanto más indignante es el contenido, más rápido circula antes de que nadie lo compruebe.

Mejor que buscar lo falso, demostrar lo auténtico

Por eso la respuesta ha cambiado de dirección. En lugar de sellar lo falso, se sella lo auténtico.

Lo primero es la firma de origen del contenido: el dispositivo de captura y el historial de edición se firman dentro del archivo, y más tarde se comprueba si esa firma sigue intacta. Lo segundo es la marca de agua: en las imágenes y los audios creados por IA se incrusta una señal que el ojo y el oído no perciben. Lo tercero son los modelos detectores, que buscan rastros diminutos invisibles para una persona.

Ninguna es perfecta. La firma se cae si alguien vuelve a grabar la pantalla, la marca de agua aguanta mal los recortes y las recompresiones, y los detectores pierden precisión ante métodos que no habían visto. De ahí que lo normal sea superponer las tres.

La línea entre el escenario y el delito

La técnica no tiene culpa. Sirve para devolver a un actor fallecido a una película, para recuperar la voz de quien la perdió por enfermedad y para doblar una clase a varios idiomas. Todos esos usos comparten dos cosas: hay consentimiento de la persona afectada y hay un aviso de que el material está generado.

La línea se cruza cuando falta el consentimiento. Crear o difundir material sexual sintético, exigir una transferencia imitando la voz de un familiar o de un jefe, montar declaraciones falsas en campaña electoral: son conductas perseguidas en muchos países. A título personal, lo que toca es sencillo. Ante cualquier contacto que meta prisa para pedir dinero o datos personales, no lo confirmes dentro de esa misma llamada o mensaje: cuelga y vuelve a marcar al número que ya conocías. Acordar en familia una palabra corta de verificación va todavía más rápido.