Puntos clave
- La privacidad tiene que ver con la información que permite identificar a una persona concreta. No son solo el nombre y el número: también fragmentos que, juntos, permiten reconocer a alguien.
- Con la IA, suelen destacarse tres puntos problemáticos: al entrar en el entrenamiento, al escribirla como entrada de uso y al salir mezclada en una respuesta.
- Borrar el nombre no basta. Es habitual que con los fragmentos que quedan se pueda volver a identificar a la persona.
- Una vez que la información se disuelve en el entrenamiento, es difícil retirarla de forma selectiva, a diferencia de una lista en papel.
- Una respuesta que se cita a menudo es recoger menos y limitar bien el uso. También se usan otras formas de evitar que los datos salgan, como procesarlos dentro del propio dispositivo.
La analogía
Se hace una lista de socios de un club. Al principio solo iban a apuntarse el nombre y el contacto, pero por las cuotas se añade la cuenta bancaria, por las camisetas se añade la talla, por los cumpleaños se añade la fecha de nacimiento. Cuando todo eso se junta en una sola hoja, la lista ya no es lo que era al principio.
Ahí surgen las preguntas. ¿Quién puede ver esta lista? A quien solo viene a comprobar los nombres, ¿hay que enseñarle también la cuenta bancaria? ¿Basta con tachar el nombre y dejar el resto? Si la talla, la fecha de nacimiento y el barrio siguen juntos, alguien que conozca a la persona la identifica enseguida.
Y encima, la fila de quien se dio de baja se borró de la lista actual, pero nadie sabe dónde quedó la copia que se repartió el año pasado. Las preguntas que surgen al hablar de IA y privacidad son las mismas de esta lista.
En detalle
Al juntar los fragmentos, la cosa cambia de naturaleza
Cada fragmento por separado parece poca cosa. El barrio, el día que va al gimnasio, el deporte que le gusta: cada uno por sí solo no dice quién es esa persona. Pero basta con que coincidan tres o cuatro para que las posibilidades se reduzcan de golpe, y con unos pocos más quedan reducidas a una sola persona.
El mismo dato cambia de naturaleza según con qué otra información aparezca junto. Por eso los marcos de muchos países no miran solo cada dato por separado, sino que también preguntan si, puesto junto a otra información, se puede identificar a alguien. Eso sí, cómo se fija ese criterio varía según el país y el ámbito.
La IA es especialmente buena combinando esos fragmentos. Encontrar patrones en piezas dispersas es justo lo que sabe hacer, así que puede identificar a una persona incluso en material que, a simple vista, parecía inofensivo.
Los tres puntos donde surge el problema
El primero es al entrar en el entrenamiento: al recopilar textos y fotos publicados, ahí dentro viaja también la historia de quienes los escribieron, y que no lo hubieran publicado con ese fin es justamente lo que se discute.
El segundo es al escribirla como entrada de uso. Para que la IA haga bien una tarea, es fácil pegar un documento entero, y con él suben datos de personas ajenas a la consulta. Cuánto tiempo queda guardado ese material depende de cada servicio.
El tercero es cuando aparece mezclada en una respuesta. Un fragmento que estaba en el material de entrenamiento puede volver a salir tal cual en una respuesta. Ocurre con más facilidad cuando el mismo contenido apareció muchas veces, pero también hay casos en que volvió algo que apareció una sola vez. También ha ocurrido que el contenido de una conversación fuera visible para otras personas por un error del servicio o por la configuración de uso compartido, y según el servicio y los ajustes, lo que se escribe podría usarse en entrenamientos posteriores y mezclarse en otras respuestas. Aparte, se trata como otro problema que la IA se use para deducir rasgos sensibles a partir de fragmentos dispersos o para localizar a personas.
Borrar el nombre no impide que vuelva a aparecer
La respuesta más habitual es borrar el nombre y el número de identificación, o cambiarlos por otros códigos. Guardar aparte la tabla que permite devolver esos códigos a su forma original, es decir, la clave, es lo que suele llamarse seudonimización. Se distingue de la anonimización, que aspira a un nivel en que ya no se pueda saber quién es. El criterio exacto de ambos términos varía mucho según el país y el sistema.
El problema aparece incluso sin esa clave. Si lo que queda es lo bastante detallado, cruzándolo con otro material se puede acotar quién es la persona. Cuanto más detallado se deja un dato, más útil resulta, pero también crece el riesgo de identificarlo de nuevo; no es posible maximizar ambas cosas a la vez.
Por eso, en la práctica, no se trata de elegir un único método de procesamiento, sino de diseñar el procedimiento completo: se decide en conjunto cuánto generalizar, qué campos quitar del todo y quién puede ver lo que queda y bajo qué condiciones.
Una vez dentro, es difícil retirar solo una parte
En una lista, tachar una fila borra la información de esa persona. Un modelo ya entrenado no funciona así: el material no queda guardado como un archivo aparte, sino repartido en capas muy finas entre una enorme cantidad de valores numéricos, así que retirar solo el rastro de alguien no es algo simple.
Por eso lo que se usa hoy son más bien rodeos: quitar el material problemático y volver a entrenar, filtrar la respuesta antes de que salga o impedir desde el principio, en una fase previa, que ese material entre. También se investigan métodos para que un modelo "olvide" un dato concreto, pero todavía no están extendidos.
Queda además el problema de las copias. El modelo se copia y se ejecuta en varios sitios a la vez, y una respuesta que ya salió no se puede retirar, igual que una lista ya repartida no se puede recoger de vuelta.
Recoger menos y limitar bien el uso
Lo básico es recoger menos desde el principio: pedir solo los campos que hacen falta para la tarea de ahora, y borrar lo que deja de ser necesario. Un dato que no se recogió tiene menos vías por las que filtrarse. Aun así, la IA puede deducir rasgos no recogidos a partir de los fragmentos que quedan, así que esto por sí solo no basta.
Después viene limitar bien el uso: igual que la cuenta bancaria dada para las cuotas no debería usarse para avisos de un evento, la información no debería usarse fuera del propósito para el que se recogió. Llevar un registro de quién vio qué permite comprobar si ese acuerdo se cumple.
Lo tercero es elegir dónde se procesa. Si ocurre dentro del dispositivo y solo sale el resultado, el original no se mueve de ahí. Combinar lo que aprendió cada dispositivo, sin reunir los datos de todos, parte de la misma idea. Aun así, esto también requiere revisar qué se acumula dentro, quién tiene acceso y si, a partir de los resultados que salen o de lo aprendido, se puede deducir el material original.
Con más precisión
Muchos marcos regulatorios, en distintos países, comparten una estructura parecida: recoger con un propósito definido, no recoger más de lo necesario para ese propósito, no usar el dato fuera de él, borrarlo cuando deja de hacer falta e informar con claridad de cómo se usa. Los detalles y el alcance de las excepciones varían de un lugar a otro, y cómo encajar el entrenamiento de la IA dentro de esa estructura todavía se está definiendo.
También hay posturas en sentido contrario: cuanto más se limita la recolección, menos margen queda para comprobar sesgos, porque verificar si un grupo recibe peores resultados exige poder distinguirlo. Recoger menos y comprobar la equidad chocan ahí, y ninguno basta por sí solo.
Hay puntos donde la analogía no encaja del todo. Una lista se borra fila por fila, pero de un modelo es difícil retirar solo un dato. En una lista se registra quién la abrió; de una respuesta generada es difícil saber hasta dónde se ha difundido. Y una lista es un solo ejemplar, mientras que un modelo se copia y se ejecuta en varios sitios a la vez.
Última verificación: 2026-10
Pruébalo
Malentendidos comunes
Es fácil pensar que, si se borra el nombre, ya no es un dato personal, pero en realidad, si los fragmentos que quedan se pueden cruzar con otra información para identificar a alguien, en muchos países se sigue tratando como tal. Qué basta con borrar varía mucho según el país y el sistema.
Es fácil creer que basta con pedir que se borre lo aprendido, pero en realidad retirarlo de forma selectiva es difícil, así que se recurre a volver a entrenar o a filtrar la respuesta como rodeos.
Es fácil pensar que si algo se procesa en el propio dispositivo ya está a salvo por completo, pero en realidad lo único que cambia es que el original no sale hacia fuera; qué se acumula dentro, quién puede verlo y qué se puede deducir de los resultados que salen hay que revisarlo aparte.
Resumen en una línea
La privacidad cambia de naturaleza en cuanto los fragmentos se juntan, y una vez que se disuelven en un modelo es difícil retirarlos por separado, así que decidir desde el principio qué se recoge, cuánto y para qué se usa suele citarse como una elección clave. Pero hay otros objetivos, como las comprobaciones de equidad, que también hay que sopesar.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización 2026-10-18