Puntos clave
- La detección de contenido de IA consiste en examinar un resultado y asignarle una probabilidad de que lo haya hecho la IA. No da un sí o un no: da un número.
- La máquina ve lo que el ojo humano no ve: regularidades diminutas en cómo se acomodan los píxeles, o qué tan previsible resulta encadenar una frase.
- Hay dos tipos de error, y cuál duele más depende de dónde se use. Donde se juzga a una persona, como en la revisión de textos, muchas miradas pesan más marcar como IA algo que hizo una persona.
- Basta con retocar un poco para que el puntaje se mueva. Volver a guardar el archivo o pulir una frase puede cambiar el veredicto.
- Por eso la tendencia se está moviendo de la detección hacia marcar y dejar un historial desde el momento en que algo se crea.
La analogía
En el mostrador de una casa de empeños, el tasador acerca una lupa y examina las costuras. Pesa la pieza, raspa el material, mira si el acabado es parejo. Y lo que dice al final no es "es auténtico", sino "parece auténtico". Es una opinión, no una certeza.
Una falsificación bien hecha puede pasar esa tasación. Y al revés, una pieza auténtica pero gastada, con marcas de reparación, puede parecer falsa. El primer error lleva a una pérdida; el segundo deja a su dueño con la sensación de una injusticia.
Si se lleva el mismo objeto a otro mostrador, a veces sale una opinión distinta. Por eso, en compras grandes, nadie se apoya solo en una tasación: se revisan también el recibo de compra y los papeles de garantía. Distinguir si algo lo hizo la IA se encuentra en ese mismo terreno.
En detalle
El ojo humano ya perdió buena parte de la ventaja
Hasta hace pocos años había pistas que el ojo podía cazar: dedos que no cuadraban, letras borrosas, un fondo que se derretía. Ahora esas pistas desaparecieron muy rápido.
En experimentos de reconocimiento con rostros bien logrados, hay resultados en que el porcentaje de acierto de las personas cae al nivel de tirar una moneda. Varía según el medio y cómo se hizo, pero fiarse solo del ojo es difícil. Y las respuestas que se eligen con más seguridad también fallan seguido. Hay experimentos donde muchas personas creen que distinguen mejor de lo que en realidad lo hacen.
Con el texto la cosa es todavía más difícil. Una foto al menos deja el rastro del píxel; una frase bien escrita casi no ofrece nada que el ojo pueda agarrar.
Qué mira la máquina
El modelo detector busca otra cosa distinta de lo que busca el ojo. En una imagen, busca regularidades diminutas que quedan del proceso de creación. Una foto que pasó por una lente y un sensor real guarda un ruido irregular, mientras que en una imagen generada ese ruido tiene otra textura.
En un texto mide qué tan previsible resultó la palabra siguiente. Un texto escrito por una persona tiene tramos que se salen de lo esperado; un texto generado tiende, en promedio, a fluir de manera más pareja.
El problema es que estas huellas no son fijas. Cuando cambia el método que crea el contenido, la huella también cambia. Un detector entrenado con resultados anteriores pierde fuerza frente a resultados nuevos.
Los dos errores pesan distinto según dónde se usen
El veredicto de un detector arrastra dos tipos de error: pasar por alto algo que sí hizo la IA, y marcar como IA algo que hizo una persona. Bajar el umbral reduce el primero y aumenta el segundo; y al revés también.
Donde se juzga a una persona, muchas miradas pesan más marcar como IA algo que escribió una persona. Si un texto propio queda señalado como generado, no hay una manera clara de defenderse, porque el puntaje del examen no muestra sus razones. También hay quien ve el fraude que se escapa como una injusticia para quien escribió con honestidad, así que cuánto reducir cada lado se decide en cada lugar. En cambio, donde dejar pasar algo causa daño en el acto, como el fraude con deepfakes o la suplantación, no detectarlo también es grave.
Hay una trampa más. Donde el contenido de IA es escaso entre el total, incluso un detector con buena exactitud puede llegar a un punto en que la mayoría de lo marcado como IA en realidad es de una persona. Al buscar algo poco frecuente, hasta un margen pequeño de error se dispara.
Con un pequeño retoque, el veredicto se tambalea
La detección se apoya en huellas de superficie, así que tocar la superficie la desestabiliza. Volver a guardar una foto, achicarla o fotografiar de nuevo la pantalla puede cambiar mucho el puntaje.
Con el texto pasa más todavía. Retocar unas cuantas frases o pasarlas por otra herramienta puede invertir el veredicto. En sentido contrario, un texto escrito en una lengua que no es la materna o uno con un formato fijo, cuyas palabras y expresiones resultan fáciles de prever, suele recibir un puntaje alto aunque lo haya escrito una persona.
Por eso es más seguro usar el puntaje de detección como una señal que indica dónde mirar, no como el fundamento de una decisión. Donde se concluye a partir de un solo número, es fácil que aparezca alguien que termina injustamente señalado.
De distinguir a demostrar
El lado de la detección siempre va un paso atrás, porque tiene que aprender la huella después de que aparece un método nuevo de creación. Por eso el eje de respuesta se está moviendo.
El nuevo eje es dejar una marca y un historial desde el momento de crear. Se incrusta una señal invisible dentro del resultado y se le adjunta al archivo un registro de dónde se creó y cómo se retocó. En vez de perseguir huellas después, se deja constancia desde el principio.
Claro que esas marcas también se pueden borrar, así que la detección no deja de ser necesaria. Combinar marca, historial y detección, sin apoyarse solo en uno de los tres, es hoy la postura más realista.
Con más precisión
Muchos modelos detectores son clasificadores entrenados para separar lo auténtico de lo generado a partir de muchos ejemplos de ambos. En texto también se usan métodos que no entrenan aparte y miden solo las probabilidades de predicción que asigna un modelo de lenguaje. El resultado es un puntaje de probabilidad, y desde qué puntaje se considera "hecho por IA" es un umbral que fija una persona. Mirar solo el porcentaje de acierto lleva a confusión; hay que ver junto a él qué proporción de lo marcado acertó de verdad y qué proporción de lo realmente generado se logró detectar.
La analogía también tiene sus límites. El tasador mira el oficio y el material de quien hizo la pieza; el modelo detector no mira el sentido, solo un patrón estadístico. Por eso, aunque el contenido tenga pleno sentido, eso no influye en el veredicto, y aunque el contenido sea extraño, si el patrón se parece al de una persona, pasa la prueba. Además, el tasador puede explicar por qué llegó a su conclusión; el modelo detector solo entrega un puntaje, sin mostrar sus razones.
Sobre todo, la detección solo responde a "¿lo hizo la IA?". Si ese contenido es cierto o si daña a alguien son preguntas distintas.
Última verificación: 2026-10
Pruébalo
- ¿Qué rostro es real? (juego de reconocimiento de rostros) ailearn.space Elige cuál de dos imágenes es la foto real de una persona y siente lo difícil que es distinguirlo a simple vista
- Detect Fakes (experimento de investigación: real o falso) ailearn.space Experimento de investigación sobre qué tan bien distinguen las personas lo real de lo falso, o el origen de un discurso. Desde el menú superior se pasa a los experimentos de imagen, vídeo y audio para probarlos uno mismo (en inglés, mayores de 18 años)
Malentendidos comunes
Es fácil pensar que, si el detector dice que es texto de IA, es seguro, pero en la práctica es solo un puntaje de probabilidad, y no es raro que un texto escrito por una persona reciba un puntaje alto, sobre todo si está escrito en una lengua que no es la materna y su expresión es más fácil de prever.
Es fácil creer que con buen ojo se puede distinguir, pero en la práctica, según el experimento, el porcentaje de acierto humano puede caer al de tirar una moneda.
Es fácil pensar que, si la tecnología de detección avanza, el problema se resuelve, pero en la práctica el lado que crea el contenido avanza igual, así que la detección siempre queda un paso atrás.
Resumen en una línea
La detección de contenido de IA se parece a una opinión de tasación que llega como probabilidad, y cuando un solo puntaje sirve para juzgar a una persona, muchas miradas pesan más el error de marcar como IA algo que hizo una persona.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización 2026-10-18