SobreajusteOverfitting

Cuadernillo, examen sorpresa y examen final

Al entrenar una IA, los datos disponibles no se usan de una pieza. Se parten en tres, aproximadamente ocho a uno a uno. Los datos de entrenamiento son el cuadernillo que el modelo mira de verdad para aprender. Los de validación son los exámenes sorpresa que se hacen durante el estudio: mirando esa nota se decide cuándo parar o cuántas capas montar. Los de prueba son el examen final que se saca una única vez, cuando ya está todo hecho.

¿Por qué tanta partición? Porque corregir con los datos de entrenamiento equivale a corregir con la hoja de soluciones abierta: hasta un modelo que solo memorizó saca un diez. Y si se ajustan los parámetros decenas de veces mirando solo la validación, entonces es quien programa el que acaba memorizando esos datos. Por eso se aparta un examen que no se mira ni una sola vez hasta el final.

El momento en que las notas se separan

Si durante el entrenamiento dibujas juntos el error de entrenamiento y el de validación, el sobreajuste se ve a simple vista. El error mide cuánto se equivoca. Al principio los dos bajan en paralelo, y eso significa que el modelo está aprendiendo reglas de verdad.

En algún punto se separan. El error de entrenamiento sigue camino del suelo, mientras que el de validación tuerce discretamente y empieza a subir. A partir de ahí el modelo ya no aprende reglas: aprende casualidades que solo existen en los datos de práctica. La distancia entre las dos líneas es el tamaño del sobreajuste.

Por qué se inclina hacia la memorización

La primera razón es que el modelo sea demasiado complejo para los datos. Si hay millones de valores ajustables y solo unos cientos de ejemplos, guardarse los ejemplos uno a uno reduce el error más rápido que buscar la regla común.

La segunda es tener pocos datos o datos torcidos hacia un lado. Si todas las fotos de gatos del entrenamiento se hicieron encima de un sofá, el modelo memoriza el estampado del sofá como requisito para ser gato, y ante un gato sentado en el césped duda.

La tercera es repasar los mismos datos demasiadas veces. Las primeras vueltas mejoran mucho; a partir de cierto punto empieza a tomar por reglas hasta las manchas de la foto o el tipo de luz que había ese día.

Cuatro maneras de impedir la memorización

La parada temprana detiene el entrenamiento en cuanto la nota de validación deja de mejorar, y el punto exacto es justo donde las dos líneas se separan. La regularización penaliza los valores que crecen demasiado, de forma que el modelo no pueda apoyarse entero en una sola pista.

El apagado aleatorio desconecta al azar una parte de las neuronas en cada vuelta. Como nunca se sabe cuál va a faltar, no hay forma de guardar la respuesta en una neurona concreta. El aumento de datos gira, voltea y cambia el brillo de las fotos para agrandar el propio cuadernillo. Y lo más eficaz de todo sigue siendo reunir datos nuevos.

El fallo contrario y la meta real

También se puede caer hacia el otro lado. Cuando el modelo es tan simple que ni siquiera acierta con los datos de entrenamiento, se llama subajuste, y es fácil de distinguir porque ya la nota de práctica es baja. Se arregla haciéndolo más grande o entrenando más tiempo.

El buen modelo vive entre esos dos extremos, en el punto donde la nota de práctica y la de validación son altas a la vez. Lo que buscamos no es habilidad para resolver el cuadernillo, sino para resolver ejercicios nuevos. A esa habilidad se le llama generalización.