Puntos clave
- El colapso del modelo es el fenómeno en el que la diversidad de los resultados se reduce cuando la IA aprende, una y otra vez, de lo que ella misma generó.
- Lo primero que desaparece es lo poco frecuente. Solo quedan las formas y expresiones más comunes; los bordes se van recortando.
- No se derrumba de golpe. Si se repite el entrenamiento solo con lo que generó la generación anterior, se va estrechando generación tras generación. Si ocurrirá igual en entornos reales, donde el material hecho por personas se sigue acumulando, es algo que los investigadores ven de forma distinta.
- Es un fenómeno distinto del parecido colapso de modo, que ocurre dentro del entrenamiento de un solo modelo cuando sus resultados se concentran en unas pocas salidas.
- Para frenarlo, lo que más se menciona es cuidar el material, y se considera lo básico seguir consiguiendo datos hechos por personas, controlar la proporción que se mezcla y guardar aparte los datos originales.
La analogía
En una habitación se graba un sonido. Luego esa grabación se reproduce por un altavoz y se vuelve a grabar. Una vez, apenas cambia nada. A la segunda y a la tercera, la cosa empieza a notarse. Los sonidos muy graves y muy agudos se pierden primero, y solo queda la banda central.
Al cabo de unas diez repeticiones, los distintos sonidos que había en la habitación original han desaparecido y solo queda un zumbido uniforme. Lo que el altavoz reproduce mal no llega a la siguiente grabación, y lo que se pierde una vez ya no vuelve.
Lo más incómodo es que, escuchando solo la última grabación, no hay forma de saber qué se perdió. Solo quien recuerda los sonidos de la habitación original puede notar lo que falta. Eso mismo pasa cuando una IA vuelve a aprender de lo que otra IA generó.
En detalle
Los resultados de la IA se cuelan en el material de entrenamiento
Los modelos grandes aprenden recopilando textos e imágenes acumulados en internet. Pero el peso de lo que la propia IA genera dentro de ese contenido crece deprisa, y ahí dentro ya hay resultados de la generación anterior.
El problema es que separarlos es difícil. Las herramientas que intentan detectar si algo lo hizo una IA solo dan una probabilidad, y quien recopila los datos, en la mayoría de los casos, no sabe de qué origen es cada pieza.
Por eso este riesgo se plantea menos como el error de una sola empresa y más como un problema de mezcla gradual en todo el material compartido. Es la razón por la que el material de las épocas con mucho texto escrito por personas se vuelve más valioso. Cuánto afecta esto a los modelos reales sigue siendo un tema con opiniones distintas.
Lo primero en desaparecer es lo poco frecuente
El modelo imita la distribución de lo que aprendió: reproduce bien lo común y mal lo poco frecuente. En lo que genera, las expresiones raras aparecen menos que en el original. Si esa salida vuelve a usarse como material de aprendizaje, el peso de lo poco frecuente se reduce un poco más.
Este recorte se repite generación tras generación. Dialectos, estilos poco habituales, composiciones y colores infrecuentes: todo lo que estaba en el borde va desapareciendo primero. El centro aguanta más tiempo y el borde se derrumba antes.
La calidad que se ve por fuera se mantiene bien durante un buen rato. Las frases salen fluidas y las imágenes, limpias. Pero, sin hacer ruido, todo va deslizándose hacia un estado en el que cualquier encargo produce resultados parecidos.
Basta con pocas generaciones para que se note el estrechamiento
En experimentos a pequeña escala la tendencia es clara. Si se entrena a la siguiente generación solo con lo que generó la anterior, y se repite el proceso, la distribución de resultados se estrecha de forma visible en pocas generaciones.
Aquí se acumulan varios tipos de error: el de tener una muestra limitada, que deja fuera los casos poco frecuentes; el de que el modelo no logra representar toda la distribución; y el de un entrenamiento que no converge del todo. La imprecisión de una generación se toma como verdad en la siguiente.
Pero la realidad no es tan sencilla como el experimento. Sigue entrando material nuevo hecho por personas, y también hay un filtro: solo sobrevive lo que la gente elige entre los resultados generados. Por eso el colapso no es un final ya escrito, sino un riesgo que se acerca si nadie cuida el material.
Es un fenómeno distinto del colapso de modo
Los nombres se parecen y es fácil confundirlos. El colapso de modo ocurre durante el entrenamiento de un solo modelo: sigue entregando unas pocas salidas que funcionan bien y renuncia al resto. Es un problema que se cierra dentro de ese mismo modelo, mientras se entrena.
El colapso del modelo es un problema entre generaciones. Los resultados de un modelo se convierten en el libro de texto del siguiente, y los de ese en el del siguiente, y así, a lo largo de varias generaciones, el material mismo se va estrechando. Entrenar bien un solo modelo no basta para evitarlo.
Frenarlo es sobre todo cuidar el material
Lo primero es seguir consiguiendo datos hechos por personas. Si entran registros humanos nuevos, los bordes vuelven a llenarse. Conservar bien el material original antiguo también forma parte de esto.
Lo segundo es controlar la proporción que se mezcla. En lugar de eliminar por completo el material generado, muchos lo consideran más práctico si se conserva el material original hecho por personas y se le suma encima el generado. Hay resultados que muestran que, al acumular junto al original sin reemplazarlo, el estrechamiento se atenúa bastante. Otros estudios encuentran que el efecto persiste incluso con una proporción pequeña, así que hay opiniones distintas.
Lo tercero es marcar y filtrar. Si al generar se incrusta una marca invisible y al archivo se le añade un historial, más tarde, al recopilar material, se puede filtrar hasta cierto punto. También se combina con usar solo material que una persona haya revisado y seleccionado.
Con más precisión
El colapso del modelo se describe como una reducción del ancho de la distribución de resultados a medida que sus colas se recortan generación tras generación. La causa está en la suma de tres errores: uno por tener un número finito de muestras, que deja fuera los sucesos poco frecuentes; otro porque la capacidad del modelo no basta para representar toda la distribución; y otro porque el entrenamiento no llega al óptimo. Con las generaciones, la aproximación de una pasa a ocupar el lugar del valor real en la siguiente.
Hay puntos donde la analogía no encaja del todo. Al repetir una grabación se añade ruido y el sonido se ensucia; en el colapso del modelo, en cambio, en las primeras etapas los resultados suelen verse suaves y limpios mientras desaparecen los casos poco frecuentes. Lo que desaparece no es ruido, sino los casos poco frecuentes, y por eso la calidad aparente no basta para notarlo. Además, la grabación sigue un solo camino, mientras que en el flujo real sigue entrando material humano nuevo.
Tampoco significa que el dato sintético sea malo por definición. Hecho con un propósito claro y validado por personas, ayuda a llenar huecos. Lo problemático es el bucle en el que un resultado sin filtrar vuelve directamente a ser material de entrenamiento.
Pruébalo
Malentendidos comunes
Es fácil pensar que usar material generado por IA lleva al colapso sin remedio, pero en realidad hay resultados que muestran que, si se conserva el material original hecho por personas y se le suma el generado en lugar de reemplazarlo, el estrechamiento se atenúa mucho. Otros estudios encuentran que el efecto persiste incluso con proporciones pequeñas, así que hay opiniones distintas.
Es fácil confundirlo con el colapso de modo, pero en realidad son problemas distintos: uno es la concentración durante el entrenamiento de un modelo; el otro, el estrechamiento del material a lo largo de generaciones.
Es fácil pensar que se nota enseguida porque la calidad empeora, pero en realidad, en las primeras etapas las frases y las imágenes siguen saliendo fluidas mientras lo poco frecuente se va reduciendo en silencio, y si la repetición se alarga, la calidad también puede derrumbarse.
Resumen en una línea
El colapso del modelo es el riesgo de que, al entrenar a una IA una y otra vez solo con lo que generó otra IA, desaparezca primero lo poco frecuente; cuánto ocurre en la práctica es motivo de opiniones distintas, pero cuidar el material hecho por personas y la forma de mezclarlo se considera la precaución básica.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización 2026-10-18