Softmax

El cálculo que convierte varias puntuaciones en probabilidades

  • Fundamentos
  • 6 min de lectura
  • 3 diagramas

Puntos clave

  • El softmax es el cálculo que reparte varias puntuaciones sueltas de modo que sumen 100%.
  • Con un solo candidato no se puede decidir su parte. Hay que mirar también la puntuación de los demás.
  • Después de repartir, el orden se mantiene igual: el candidato con más puntuación se lleva también la parte más grande.
  • El reparto se hace según la diferencia entre puntuaciones, no su proporción. Con una diferencia de solo unas casillas, la parte se multiplica varias veces.
  • El porcentaje resultante no dice cuánta razón tiene el modelo, solo la proporción entre los candidatos.

La analogía

A un edificio comercial le llega un solo recibo de agua. Cada local tiene su propio contador, así que el encargado anota todas las lecturas, saca el total y calcula qué porcentaje del total consumió cada local, para repartir el pago según esa proporción.

El número del contador, por sí solo, no decide cuánto hay que pagar. Hace falta sumar también las lecturas de los locales vecinos para saber la parte de cada uno. Aunque tu lectura sea igual que el mes pasado, si el local de al lado gastó mucha agua ese mes, tu porcentaje baja.

El softmax es ese reparto. Reúne la puntuación en bruto que el modelo anotó para cada candidato y la reparte, dentro del 100%, en la parte que le toca a cada uno. A esa puntuación en bruto, equivalente a la lectura del contador, se le llama logits.

En detalle

Un solo candidato no basta para decidir

Antes de elegir el siguiente trozo, el modelo ya le puso una puntuación a cada candidato. Esta puntuación es un número en bruto, sin escala, así que con verla sola no se sabe si es alta o baja.

El softmax coloca todos los candidatos juntos y calcula con ellos. Primero convierte cada puntuación en un valor siempre positivo y lo agranda, y luego le da a cada candidato la parte que le corresponde en la suma de esos valores. Por eso la parte de un candidato depende no solo de su propia puntuación, sino también de qué puntuación sacaron los demás.

Si los rivales son débiles, la misma puntuación se lleva una parte grande; si todos están altos y parecidos, la parte se reparte en trozos pequeños. Por la misma razón, cuantos más candidatos hay, más pequeña se vuelve la parte de cada uno.

El orden se mantiene, solo cambia la escala

Al repartir, el orden de los candidatos no cambia en absoluto. El que iba por delante en el marcador sigue por delante en la parte que le toca. No es un cálculo para decidir el ranking, sino para pasarlo a una escala que una persona pueda leer y comparar.

Convertirlo en porcentaje trae ventajas prácticas. Se puede recortar dejando solo a los candidatos por encima de cierto porcentaje, o elegir uno al azar según la probabilidad para dar variedad a la respuesta. También conviene tenerlo en forma de probabilidad para medir, durante el entrenamiento, cuánto se alejó de la respuesta correcta.

Reparte según la diferencia

Lo "suave" del nombre significa que no se lo lleva todo un único ganador. En vez de darle 100% al primero y 0% al resto, deja algo también para el segundo y el tercero. Gracias a eso, una situación reñida por poco queda reflejada tal cual en el resultado.

Pero tampoco traslada la proporción de puntuaciones tal cual. El softmax no mira la proporción entre puntuaciones sino la diferencia entre ellas. Con una diferencia de 1, la parte se multiplica por unas 2,7 veces; con 2, por unas 7; con 3, por unas 20. Por eso un candidato que iba unas casillas por delante se lleva una parte bastante grande, y la del que iba atrás se acerca rápido a cero. Sumar el mismo número a todas las puntuaciones no cambia el resultado. De ahí que con solo unas pocas casillas de diferencia la respuesta quede prácticamente decidida.

El ajuste de temperatura es justo lo que regula esta apertura. Bajarla agranda más la diferencia y el primero se lo lleva casi todo; subirla la estrecha y les toca parte también a los candidatos de abajo.

No se usa solo en el último paso

El lugar donde el softmax se nota más, en un modelo de lenguaje, es justo antes de elegir el siguiente trozo. Pero también se usa varias veces por dentro del modelo.

La atención, que decide cuánto concentrarse en cada palabra de la frase, es un ejemplo claro. A cada palabra se le pone una puntuación de relación, y esa puntuación se reparte dentro del 100% como proporción de atención. El mecanismo que decide a cuál de varias ramas de expertos encargarle el trabajo también suele repartir el peso con este mismo método.

Los modelos que clasifican una foto en varias categorías también añaden este cálculo al final. Por eso los porcentajes que aparecen en la pantalla de resultados suman 100% entre todos.

Con más precisión

El softmax convierte cada puntuación, sin excepción, en un valor positivo, y después divide cada una entre la suma de todos esos valores. Así puede manejar puntuaciones negativas, el resultado siempre queda entre 0 y 1, y la suma da siempre 1.

La analogía también tiene sus costuras. En el contador de agua, la proporción de las lecturas se traslada tal cual a la proporción del pago, pero el softmax reparte según la diferencia entre puntuaciones, no según su proporción. Si se repartieran por proporción el 2,5, 1,6, 0,7 y 0 de la figura de arriba, el primer local tendría cerca de un 52%, pero con el softmax obtiene cerca de un 60%, y hasta el local con lectura 0 recibe cerca de un 5% en lugar de 0%. Si las diferencias son grandes, la parte del local que va delante se multiplica varias veces; si son pequeñas, el reparto puede salir incluso más parejo que por proporción. Además, la lectura del contador tiene un significado claro, la cantidad de agua realmente usada, pero la puntuación del modelo no tiene ese referente real. Por eso, que a un candidato le toque un 90% no significa que esa respuesta acierte nueve de cada diez veces: solo indica que fue así de por delante frente a los demás. También conviene recordar que un candidato que ni siquiera está en la lista no aparece como 0%: directamente no existe.

Pruébalo

Malentendidos comunes

  • Es fácil pensar que el softmax elige la respuesta, pero en realidad solo reparte las partes; elegir es un paso aparte, que viene después.

  • Es fácil pensar que un 90% significa acertar nueve de cada diez, pero en realidad es solo la proporción entre candidatos, algo distinto de la tasa de acierto.

  • Es fácil pensar que traslada la proporción de puntuación tal cual, pero en realidad reparte según la diferencia entre puntuaciones y no su proporción, así que con solo unas casillas de diferencia la parte del candidato que iba por delante se multiplica varias veces, y hasta un candidato con puntuación 0 o negativa recibe una parte mayor que cero.

Resumen en una línea

En resumen

El softmax reúne puntuaciones sueltas, como las lecturas de un contador de agua, y las reparte para que sumen 100%, siguiendo siempre el mismo orden.

¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización 2026-10-17