Softmax
El cálculo que convierte varias puntuaciones en probabilidades
- El softmax es el cálculo que reparte varias puntuaciones sueltas de modo que sumen 100%.
- Con un solo candidato no se puede decidir su parte. Hay que mirar también la puntuación de los demás.
- Después de repartir, el orden se mantiene igual: el candidato con más puntuación se lleva también la parte más grande.
- La diferencia entre puntuaciones no se traslada tal cual: se agranda al repartirla. Con ir un poco por delante ya se lleva una parte mucho mayor.
- El porcentaje resultante no dice cuánta razón tiene el modelo, solo la proporción entre los candidatos.
Contenido
1La analogía
A un edificio comercial le llega un solo recibo de agua. Cada local tiene su propio contador, así que el encargado anota todas las lecturas, saca el total y calcula qué porcentaje del total consumió cada local, para repartir el pago según esa proporción.
El número del contador, por sí solo, no decide cuánto hay que pagar. Hace falta sumar también las lecturas de los locales vecinos para saber la parte de cada uno. Aunque tu lectura sea igual que el mes pasado, si el local de al lado gastó mucha agua ese mes, tu porcentaje baja.
El softmax es ese reparto. Reúne la puntuación en bruto que el modelo anotó para cada candidato y la reparte, dentro del 100%, en la parte que le toca a cada uno. A esa puntuación en bruto, equivalente a la lectura del contador, se le llama logits.
2En detalle
Un solo candidato no basta para decidir
Antes de elegir el siguiente trozo, el modelo ya le puso una puntuación a cada candidato. Esta puntuación es un número en bruto, sin escala, así que con verla sola no se sabe si es alta o baja.
El softmax coloca todos los candidatos juntos y calcula con ellos. Suma todas las puntuaciones y le da a cada candidato la parte que le corresponde en esa suma. Por eso la parte de un candidato depende no solo de su propia puntuación, sino también de qué puntuación sacaron los demás.
Si los rivales son débiles, la misma puntuación se lleva una parte grande; si todos están altos y parecidos, la parte se reparte en trozos pequeños. Por la misma razón, cuantos más candidatos hay, más pequeña se vuelve la parte de cada uno.
El orden se mantiene, solo cambia la escala
Al repartir, el orden de los candidatos no cambia en absoluto. El que iba por delante en el marcador sigue por delante en la parte que le toca. No es un cálculo para decidir el ranking, sino para pasarlo a una escala que una persona pueda leer y comparar.
Convertirlo en porcentaje trae ventajas prácticas. Se puede recortar dejando solo a los candidatos por encima de cierto porcentaje, o elegir uno al azar según la probabilidad para dar variedad a la respuesta. También conviene tenerlo en forma de probabilidad para medir, durante el entrenamiento, cuánto se alejó de la respuesta correcta.
Agranda la diferencia al repartir
Lo "suave" del nombre significa que no se lo lleva todo un único ganador. En vez de darle 100% al primero y 0% al resto, deja algo también para el segundo y el tercero. Gracias a eso, una situación reñida por poco queda reflejada tal cual en el resultado.
Pero tampoco traslada la proporción de puntuaciones tal cual. La diferencia de puntuación se agranda al pasar a parte. Un candidato que iba un poco por delante se lleva una parte bastante grande, y la del que iba atrás se acerca rápido a cero. De ahí que con solo unas pocas casillas de diferencia la respuesta quede prácticamente decidida.
El ajuste de temperatura es justo lo que regula esta apertura. Bajarla agranda más la diferencia y el primero se lo lleva casi todo; subirla la estrecha y les toca parte también a los candidatos de abajo.
No se usa solo en el último paso
El lugar donde el softmax se nota más, en un modelo de lenguaje, es justo antes de elegir el siguiente trozo. Pero también se usa varias veces por dentro del modelo.
La atención, que decide cuánto concentrarse en cada palabra de la frase, es un ejemplo claro. A cada palabra se le pone una puntuación de relación, y esa puntuación se reparte dentro del 100% como proporción de atención. En la elección de cabeza que se vio antes, también se decide con este mismo método cuánto peso darle a cada una.
Los modelos que clasifican una foto en varias categorías también añaden este cálculo al final. Por eso los porcentajes que aparecen en la pantalla de resultados suman 100% entre todos.
3Con más precisión
El softmax convierte cada puntuación, sin excepción, en un valor positivo, y después divide cada una entre la suma de todos esos valores. Así puede manejar puntuaciones negativas, el resultado siempre queda entre 0 y 1, y la suma da siempre 1.
La analogía también tiene sus costuras. En el contador de agua, la proporción de las lecturas se traslada tal cual a la proporción del pago, pero el softmax agranda la diferencia de puntuación al repartirla. Un local con el doble de lectura podría terminar pagando diez veces más, así que, si solo se piensa en proporciones, el resultado parece inclinarse más de lo esperado. Además, la lectura del contador tiene un significado claro, la cantidad de agua realmente usada, pero la puntuación del modelo no tiene ese referente real. Por eso, que a un candidato le toque un 90% no significa que esa respuesta acierte nueve de cada diez veces: solo indica que fue así de por delante frente a los demás. También conviene recordar que un candidato que ni siquiera está en la lista no aparece como 0%: directamente no existe.
4Pruébalo
5Malentendidos comunes
Es fácil pensar que el softmax elige la respuesta, pero en realidad solo reparte las partes; elegir es un paso aparte, que viene después.
Es fácil pensar que un 90% significa acertar nueve de cada diez, pero en realidad es solo la proporción entre candidatos, algo distinto de la tasa de acierto.
Es fácil pensar que traslada la proporción de puntuación tal cual, pero en realidad agranda la diferencia al repartir, así que el candidato que iba por delante se lleva una parte mucho mayor.
7Resumen en una línea
En resumenEl softmax reúne puntuaciones sueltas, como las lecturas de un contador de agua, y las reparte para que sumen 100%, siguiendo siempre el mismo orden.
¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02