Modelos de lenguaje Intermedio

TemperaturaTemperature

El mando que ensancha o estrecha la diferencia de probabilidad

Puntos clave
  • La temperatura es el mando que ensancha o estrecha la diferencia de probabilidad entre los candidatos a la siguiente palabra.
  • Al bajarla, la fuerza se concentra más en la palabra habitual y sale un texto claro y predecible.
  • Al subirla, también les toca oportunidad a los candidatos de más abajo y sale un texto variado, con palabras menos comunes.
  • El mando no elige la palabra. Elegir lo hace el muestreo; la temperatura solo prepara el terreno antes de eso.
  • El orden de los candidatos no cambia. El primero no pasa a segundo: solo cambia la distancia entre ellos.
Contenido

1La analogía

En cada casa, el termostato de la calefacción tiene una única perilla de temperatura. Esa perilla no fabrica agua caliente nueva: solo decide hasta dónde y cómo se reparte el agua que ya está circulando. Puesta baja, solo se calienta la habitación más cercana a la caldera y la del fondo queda fresca. Subida, el calor llega hasta el cuarto del fondo, y da igual a qué habitación entres: está tibia.

Cuando la IA elige la siguiente palabra, una perilla hace algo parecido. El modelo pone, cada vez, "cuánta probabilidad tiene esta palabra" a cada candidato, y al bajar la temperatura el calor se concentra en el candidato principal, mientras los demás quedan prácticamente fríos. Al subirla, también llega calor a los candidatos de más abajo y les nace la posibilidad de salir elegidos. Esta perilla que regula la distancia entre probabilidades es la temperatura.

Por más que se gire la perilla, no se crea una habitación que antes no existía. La lista de candidatos se mantiene igual: solo cambia cómo se reparte el calor.

2En detalle

El mando no elige

El proceso de fabricar un trozo del texto se divide en dos pasos. Primero, el modelo le pone una probabilidad a cada palabra que podría venir después. Después, saca una según esa probabilidad. El paso de sacar es el muestreo.

La temperatura se mete entre medio. No deja igual la probabilidad ya calculada: ensancha o estrecha la distancia y después la pasa al paso del sorteo. Es como la perilla de la calefacción, que no fabrica agua, sino que solo retoca cómo fluye.

Por eso, cambiar solo la temperatura cambia el resultado, pero no inventa respuestas que no existían antes. Una palabra cuya probabilidad original era casi cero apenas llega a salir, aunque se suba mucho la temperatura.

Al bajarla, claro; al subirla, variado

Al bajar la temperatura, la distancia entre el candidato principal y el resto se agranda mucho. Sale casi siempre la misma palabra, así que la frase queda ordenada y predecible. Preguntar diez veces lo mismo trae respuestas parecidas. A cambio, el texto se vuelve plano y las expresiones se repiten seguido.

Al subir la temperatura, la distancia se estrecha. El segundo y el tercer candidato también salen con frecuencia, así que la expresión se diversifica y la misma pregunta recibe cada vez una respuesta distinta. Es útil para sacar varios eslóganes o para escribir historias.

Si se sube demasiado, la frase se desmorona. Cuando empiezan a salir hasta palabras de probabilidad muy baja, se cuelan palabras fuera de tema y, a los pocos renglones, el texto deja de tener sentido. Por eso el rango que se usa en la práctica es más estrecho de lo que parece.

Qué pasa en el punto más bajo

Si se lleva la temperatura hasta el fondo, en la práctica solo queda el candidato principal. Con el nombre de "sorteo" ya casi vacío de sentido, sale siempre la palabra más probable. Así se usa cuando se quiere que la misma pregunta dé siempre la misma respuesta.

Ordenar valores, rellenar un documento con formato fijo, cotejar cifras: son tareas donde encaja esto, porque si la respuesta cambia cada vez, revisar se vuelve agotador.

Aun así, no está garantizado que salga siempre una respuesta idéntica. El orden del cálculo o cuestiones del propio servicio pueden causar pequeñas diferencias, y si algo del contexto anterior cambia aunque sea un poco, la respuesta también se desvía.

Dónde poner el valor

No hay una tabla de respuestas correctas, pero sí una tendencia. Para ordenar hechos o escribir siguiendo una norma, conviene bajarla; para ver la expresión desde varios ángulos, un valor medio; para explorar combinaciones más atrevidas, subirla.

Lo mejor es empezar con el valor por defecto. La mayoría de los servicios ya lo dejan en un punto agradable de leer. Si el resultado aburre, se sube un poco; si la respuesta se dispersa o los datos empiezan a fallar, se baja.

En vez de mover mucho de golpe, conviene desplazarlo poco a poco y probar la misma pregunta varias veces. Así se ve, en el momento, cómo tiembla la respuesta al mover solo esta perilla.

El Top-p es otra perilla distinta

Un ajuste que suele aparecer junto a la temperatura es el muestreo Top-p. Hacen cosas distintas. La temperatura retoca la distancia entre candidatos; el Top-p recorta desde arriba el rango de candidatos que se puede sacar.

En términos de calor, la temperatura decide cuán parejo se reparte el calor por la casa, y el Top-p decide directamente qué habitaciones se cierran. La habitación cerrada no se usa, por mucho que el calor le dé vueltas alrededor.

Si se tocan mucho las dos a la vez, es difícil saber cuál movió el resultado. Lo normal es dejar una en su valor por defecto y mover solo la otra.

3Con más precisión

El modelo entrega una puntuación por candidato, y esa puntuación pasa por un cálculo que la convierte en probabilidad. La temperatura es el valor entre el que se divide toda la puntuación, justo antes de ese cálculo. Si es menor que 1, la diferencia de puntuación se agranda y la distribución de probabilidad se afila; si es mayor que 1, la diferencia se reduce y se aplana. El orden en sí no cambia con ningún valor.

La analogía también tiene sus costuras. La temperatura de una habitación, una vez que sube, se mantiene mientras se va calentando poco a poco, pero esta perilla se aplica de nuevo, desde cero, cada vez que se elige un trozo. No queda calor de la letra anterior que pase a la siguiente. Tampoco es que subir la temperatura genere expresiones mejores: la lista de candidatos ya la fijó el modelo, y la perilla solo aumenta la probabilidad de que salga uno menos común. Está más cerca de ser una perilla de aleatoriedad que una de creatividad. El rango de valores también cambia según el servicio: unos permiten de 0 a 1, otros hasta 2, así que el mismo número se siente distinto según dónde se use. Por eso conviene no trasladar tal cual un valor usado en otro servicio, sino probarlo ahí mismo unas cuantas veces y ajustarlo.

4Pruébalo

5Malentendidos comunes

  • Es fácil pensar que subir la temperatura vuelve creativo al modelo, pero en realidad solo aumentan las opciones menos comunes, y eso no distingue lo disparatado de lo creativo.

  • Es fácil pensar que con la temperatura en 0 sale siempre la misma respuesta, pero en realidad pequeñas diferencias en el cálculo o en la conversación previa pueden hacer que cambie.

  • Es fácil pensar que la temperatura cambia lo que el modelo sabe, pero en realidad los candidatos y su orden se mantienen igual: solo cambia la distancia entre ellos.

7Resumen en una línea

En resumenLa temperatura es como la perilla de un termostato: decide si el calor se concentra solo en el candidato principal o llega hasta los del fondo, y no elige la palabra por sí misma.

¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02