Mínimo localLocal Minimum
Un punto atrapado, aunque exista uno más bajo cerca
- Un mínimo local es un punto más bajo que sus alrededores, pero que no es el más bajo de todo el terreno.
- El entrenamiento solo se mueve cuesta abajo desde donde está. Por eso, si cae en un punto rodeado de subida, no puede salir por sí solo.
- Mientras se está ahí adentro, ni siquiera se nota que se está atrapado: al estar rodeado de subida por todos lados, se ve igual que haber llegado al final.
- Se sale probando distintos puntos de partida, sumando impulso, o sacudiendo un poco los datos en cada paso.
- En los modelos grandes, el problema más frecuente no es quedar atrapado de verdad, sino una zona que se siente lenta, como si se hubiera detenido.
Contenido
1La analogía
Imagina un patio después de la lluvia. El agua siempre corre hacia el lado más bajo. Al final del patio hay una rejilla, así que el agua debería terminar ahí. Pero si en el camino hay un pequeño hueco, el agua se detiene justo ahí. Parada en ese punto, mirando alrededor, todo es subida: adelante, atrás, a los costados. No hay hacia dónde seguir bajando.
Pasan los días y el charco sigue ahí. La rejilla está apenas unos pasos al costado, y es mucho más profunda, pero da lo mismo. No es que el agua sea perezosa: cumplió hasta el final la regla de ir siempre hacia el lado más bajo. Que el entrenamiento se quede atascado en un punto a medias es exactamente ese charco.
2En detalle
La regla de moverse solo cuesta abajo
El entrenamiento mide, desde donde está, hacia qué lado baja el terreno, y se mueve un poco hacia ahí, una y otra vez. Lo bueno de este método es que no hace falta conocer el terreno entero: alcanza con medir la inclinación bajo los pies, así que funciona sin importar cuántos valores haya.
A cambio, paga el precio de mirar solo lo que tiene debajo. Si en el punto actual todas las direcciones son subida, el movimiento se detiene. Que más allá exista un valle mucho más profundo no está guardado en la inclinación bajo los pies. Es exactamente lo mismo que le pasa al agua del patio, que no logra cruzar el hueco para llegar hasta la rejilla.
Adentro del charco no hay forma de saberlo
Lo más molesto de este problema es que cuesta darse cuenta de que se está atrapado. Que la pérdida deje de bajar y se calme se ve igual que un entrenamiento que terminó bien. Con solo el número en la pantalla, "ya llegamos" y "quedamos atrapados acá" se ven exactamente igual.
Por eso en la práctica se mira el puntaje absoluto. Si la pérdida se detuvo pero ese valor queda muy por encima de lo esperado, conviene sospechar de un charco. Si al repetir el mismo entrenamiento varias veces algunas rondas terminan con un puntaje bastante mejor, esa es una señal más segura todavía. Con un solo punto bajo no se puede saber; hay que comparar varios.
Formas de cruzar el charco
La primera es cambiar el punto de partida. Se generan varios juegos de valores iniciales al azar, se entrena cada uno por separado y se elige el mejor resultado. Es como echar agua en distintos lugares del patio.
La segunda es sumar impulso. Si se hereda, por un tiempo, la fuerza de la dirección por la que se venía bajando, un hueco poco profundo no alcanza a frenar esa velocidad y se lo termina cruzando. Es como una bolita que viene rodando y salta una hendidura pequeña gracias al envión.
La tercera es sacudir a propósito. Si no se usan todos los datos de una vez sino de a partes, la inclinación cambia un poco en cada paso. Ese temblor empuja hacia afuera de los puntos poco profundos. Empezar con un paso grande e ir achicándolo con el tiempo busca el mismo efecto.
En los modelos grandes, la historia cambia un poco
Si solo hay dos o tres valores, el dibujo del patio calza perfecto. Pero un modelo real tiene millones de valores para ajustar. Ahí, para que un punto sea de verdad un charco, hace falta que las millones de direcciones sean, sin excepción, todas subida. Un punto así es más raro de lo que parece.
Lo que se encuentra mucho más seguido es un punto a medio camino, donde algunas direcciones son subida y otras, bajada. Ahí la inclinación es casi cero y el avance se frena un rato, pero al final se encuentra una dirección cuesta abajo y se sale. Por eso, cuando en un modelo grande el entrenamiento parece detenido, casi siempre no está atrapado para siempre, sino solo momentáneamente lento.
3Con más precisión
Un mínimo local es un punto donde, en todas las direcciones alrededor, la pérdida es mayor o igual que en ese punto. Al punto más bajo de todo el terreno se lo llama, aparte, mínimo global. El punto a medio camino mencionado antes se llama punto de silla: en algunas direcciones es el más bajo y en otras el más alto, de ahí el nombre.
La analogía también tiene sus costuras. El patio, visto desde arriba, deja ver de un vistazo dónde está lo más bajo, pero el terreno real de la pérdida tiene millones de direcciones y no hay forma de verlo entero. Lo único que se conoce es la inclinación bajo los pies y el puntaje del camino recorrido. Y otra cosa: esquivar el mínimo local y llegar al punto más bajo posible no siempre conviene. No hay garantía de que el punto más bajo en los datos de entrenamiento sea también el mejor frente a datos nuevos, así que en la práctica a veces se prefiere un punto un poco menos bajo, pero con alrededores amplios y suaves.
4Pruébalo
5Malentendidos comunes
Es fácil pensar que si el entrenamiento se detiene, quedó atrapado en un mínimo local, pero en realidad, con más frecuencia, se trata de una zona donde la inclinación es chica y todo se frenó por un rato, o el paso se achicó demasiado.
Es fácil pensar que hay que encontrar el punto más bajo para tener un buen modelo, pero en realidad el punto más bajo en los datos de entrenamiento no siempre coincide con el mejor punto frente a datos nuevos.
Es fácil creer que un modelo más grande tiene más charcos, pero en realidad, cuantos más valores hay, más raro es encontrar un punto donde todas las direcciones sean subida.
7Resumen en una línea
En resumenUn mínimo local es un punto más bajo que sus alrededores, pero no el más bajo de todo el terreno, y se sale de ahí cambiando el punto de partida o sumando impulso y un poco de temblor.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02