ÉpocaEpoch

Dentro de una vuelta caben muchos pasos

Si se corrige el valor cada vez que se ve un solo dato, todo se sacude demasiado; si se corrige una sola vez después de ver todos los datos, todo se vuelve demasiado lento. Por eso los datos se dividen en lotes de un tamaño razonable, y cada vez que se termina de ver un lote, se mueven los valores un paso.

Si hay diez mil datos y el lote es de cien, en una vuelta entran cien pasos. Con diez vueltas, mil pasos. Por eso, para hablar de cuánto avanzó el entrenamiento, se miran juntos el número de vueltas y el número de pasos: con el mismo número de vueltas, si el lote se fijó más chico, en realidad se dieron muchos más pasos.

Esta estructura también es la razón por la que, al terminar cada vuelta, se pausa el entrenamiento un momento para medir el resultado. Se saca un conjunto de datos aparte, se le pide al modelo que responda con lo aprendido hasta ese punto, y se anota esa puntuación junto con el número de vuelta. Ese registro, acumulado, muestra de un vistazo si el entrenamiento va por buen camino.

Cuántas vueltas nadar

No hay una respuesta fija. Si hay pocos datos y el modelo es grande, a veces se dan varias decenas de vueltas; si hay una cantidad enorme de datos, a veces alcanza con una sola vuelta y ya. En los modelos de lenguaje muy grandes es habitual que ni siquiera se llegue a completar una vuelta entera.

Si faltan vueltas, el modelo todavía no terminó de aprender lo que podía. Si sobran, termina memorizando de más lo que hay en los datos, y el puntaje empeora justo frente a datos que nunca vio. Por eso en la práctica se fija un número de vueltas generoso y se combina con detener el entrenamiento en el punto donde el puntaje empieza a empeorar.

Se mezcla el orden en cada vuelta

Si se meten los datos en el mismo orden en todas las vueltas, el modelo termina aprendiendo también las costumbres pegadas a ese orden. Puede terminar aprendiendo primero el tipo que quedó al principio y dejando siempre para el final el tipo que quedó al final.

Por eso, al empezar cada vuelta, se mezclan los datos y se arman los lotes de nuevo. Así, los mismos datos se combinan de una forma un poco distinta en cada vuelta, la inclinación bajo los pies cambia un poco cada vez, y baja el riesgo de quedar atascado en un punto a medias.

También pesa que el orden en que se guardaron los datos suele tener un significado. Si se meten tal cual, ordenados por tipo, durante un buen rato solo se ven datos del mismo tipo, y en ese tramo los valores se inclinan todos hacia un mismo lado. Con solo mezclar una vez, ese sesgo desaparece.

Por qué se cuenta por vueltas aparte

Si se mide cuánto avanzó el entrenamiento por tiempo transcurrido, el valor cambia según qué tan rápida sea la máquina. Contando por vueltas, en cambio, queda claro cuántas veces se vieron los datos, y así se puede comparar entrenamientos hechos en ambientes distintos.

El número de vueltas también sirve como eje horizontal del gráfico de puntuación. Si se marca, vuelta a vuelta, el puntaje en los datos de entrenamiento junto con el de los datos separados aparte, salta a la vista en qué momento empiezan a separarse esas dos líneas. Ahí está la base para decidir cuándo detenerse.