PrivacidadPrivacy
El problema de tratar información que identifica a una persona
- La privacidad tiene que ver con la información que permite identificar a una persona concreta. No son solo el nombre y el número: también fragmentos que, juntos, permiten reconocer a alguien.
- Con la IA el problema aparece en tres puntos: al entrar en el entrenamiento, al escribirla como entrada de uso y al salir mezclada en una respuesta.
- Borrar el nombre no basta. Es habitual que con los fragmentos que quedan se pueda volver a identificar a la persona.
- Una vez que la información se disuelve en el entrenamiento, es difícil retirarla de forma selectiva, a diferencia de una lista en papel.
- La idea de fondo es recoger menos, limitar bien el uso y procesar dentro del propio dispositivo siempre que se pueda.
Contenido
1La analogía
Se hace una lista de socios de un club. Al principio solo iban a apuntarse el nombre y el contacto, pero por las cuotas se añade la cuenta bancaria, por las camisetas se añade la talla, por los cumpleaños se añade la fecha de nacimiento. Cuando todo eso se junta en una sola hoja, la lista ya no es lo que era al principio.
Ahí surgen las preguntas. ¿Quién puede ver esta lista? A quien solo viene a comprobar los nombres, ¿hay que enseñarle también la cuenta bancaria? ¿Basta con tachar el nombre y dejar el resto? Si la talla, la fecha de nacimiento y el barrio siguen juntos, alguien que conozca a la persona la identifica enseguida.
Y encima, la fila de quien se dio de baja se borró de la lista actual, pero nadie sabe dónde quedó la copia que se repartió el año pasado. Las preguntas que surgen al hablar de IA y privacidad son las mismas de esta lista.
2En detalle
Al juntar los fragmentos, la cosa cambia de naturaleza
Cada fragmento por separado parece poca cosa. El barrio, el día que va al gimnasio, el deporte que le gusta: cada uno por sí solo no dice quién es esa persona. Pero basta con que coincidan tres o cuatro para que las posibilidades se reduzcan de golpe, y con unos pocos más quedan reducidas a una sola persona.
Por eso hoy no se pregunta solo "¿este dato identifica a alguien?", sino "¿este conjunto lo permite?". El mismo dato cambia de naturaleza según con qué otra información aparezca junto.
La IA es especialmente buena combinando esos fragmentos. Encontrar patrones en piezas dispersas es justo lo que sabe hacer, así que puede identificar a una persona incluso en material que, a simple vista, parecía inofensivo.
Los tres puntos donde surge el problema
El primero es al entrar en el entrenamiento: al recopilar textos y fotos publicados, ahí dentro viaja también la historia de quienes los escribieron, y a menudo lo hicieron sin pensar en ese uso.
El segundo es al escribirla como entrada de uso. Para que la IA haga bien una tarea, es fácil pegar un documento entero, y con él suben datos de personas ajenas a la consulta. Cuánto tiempo queda guardado ese material depende de cada servicio.
El tercero es cuando aparece mezclada en una respuesta. Si un contenido apareció varias veces en el entrenamiento, puede volver a salir. También puede pasar que algo escrito en una conversación termine llegando a un lugar visible para otra persona.
Borrar el nombre no impide que vuelva a aparecer
La respuesta más habitual es borrar el nombre y el número de identificación. Eso se llama seudonimización: en algún sitio sigue existiendo una clave capaz de revertir el proceso. Es distinto de la anonimización real, que hace imposible recuperar la identidad.
El problema aparece incluso sin esa clave. Si lo que queda es lo bastante detallado, cruzándolo con otro material se puede acotar quién es la persona. Cuanto más detallado se deja un dato, más útil resulta, pero también crece el riesgo de identificarlo de nuevo; no es posible maximizar ambas cosas a la vez.
Por eso, en la práctica, se decide en conjunto cuánto generalizar, qué campos quitar del todo y quién puede ver lo que queda y bajo qué condiciones.
Una vez dentro, es difícil retirar solo una parte
En una lista, tachar una fila borra la información de esa persona. Un modelo ya entrenado no funciona así: el material no queda guardado como un archivo aparte, sino repartido en capas muy finas entre una enorme cantidad de valores numéricos, así que retirar solo el rastro de alguien no es algo simple.
Por eso lo que se usa hoy son más bien rodeos: quitar el material problemático y volver a entrenar, o filtrar la respuesta antes de que salga. También se investigan métodos para que un modelo "olvide" un dato concreto, pero todavía no están extendidos.
Queda además el problema de las copias. El modelo se copia y se ejecuta en varios sitios a la vez, y una respuesta que ya salió no se puede retirar, igual que una lista ya repartida no se puede recoger de vuelta.
Recoger menos y limitar bien el uso
Lo más consistente es recoger menos desde el principio: pedir solo los campos que hacen falta para la tarea de ahora, y borrar lo que deja de ser necesario. Un dato que no existe tampoco puede filtrarse.
Después viene limitar bien el uso: igual que la cuenta bancaria dada para las cuotas no debería usarse para avisos de un evento, la información no debería usarse fuera del propósito para el que se recogió. Llevar un registro de quién vio qué permite comprobar si ese acuerdo se cumple.
Lo tercero es elegir dónde se procesa. Si ocurre dentro del dispositivo y solo sale el resultado, el original no se mueve de ahí. Aun así, esto también requiere revisar qué se acumula dentro y quién tiene acceso.
3Con más precisión
Muchos marcos regulatorios, en distintos países, comparten una estructura parecida: recoger con un propósito definido, no recoger más de lo necesario para ese propósito, no usar el dato fuera de él, borrarlo cuando deja de hacer falta e informar con claridad de cómo se usa. Los detalles y el alcance de las excepciones varían de un lugar a otro, y cómo encajar el entrenamiento de la IA dentro de esa estructura todavía se está definiendo.
También hay posturas en sentido contrario: cuanto más se limita la recolección, menos margen queda para comprobar sesgos, porque verificar si un grupo recibe peores resultados exige poder distinguirlo. Recoger menos y comprobar la equidad chocan ahí, y ninguno basta por sí solo.
Hay puntos donde la analogía no encaja del todo. Una lista se borra fila por fila, pero de un modelo es difícil retirar solo un dato. En una lista se registra quién la abrió; de una respuesta generada es difícil saber hasta dónde se ha difundido. Y una lista es un solo ejemplar, mientras que un modelo se copia y se ejecuta en varios sitios a la vez.
Última verificación: 2026-09
4Pruébalo
5Malentendidos comunes
Es fácil pensar que, si se borra el nombre, ya no es un dato personal, pero en realidad, si con los fragmentos que quedan se puede identificar a alguien, se sigue tratando como tal.
Es fácil creer que basta con pedir que se borre lo aprendido, pero en realidad retirarlo de forma selectiva es difícil, así que se recurre a volver a entrenar o a filtrar la respuesta como rodeos.
Es fácil pensar que si algo se procesa en el propio dispositivo ya está a salvo por completo, pero en realidad lo único distinto es que no sale hacia fuera; qué se acumula dentro y quién puede verlo hay que revisarlo aparte.
7Resumen en una línea
En resumenLa privacidad cambia de naturaleza en cuanto los fragmentos se juntan, y una vez que se disuelven en un modelo es difícil retirarlos por separado, así que la decisión de recoger menos y limitar bien el uso, desde el principio, es lo que más pesa.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02