Generación de textoText Generation

1Mira lo anterior y decide el siguiente corte

La IA no tiene la respuesta completa en la cabeza para transcribirla. Mira todos los trozos puestos hasta ahora, elige el siguiente, lo pega, vuelve a mirar todo de nuevo y elige el que sigue. Repite esto hasta el final.

Que las letras parezcan salir corriendo en pantalla se debe a que se está fabricando un trozo a la vez, en ese mismo momento. Por la misma razón, cuanto más larga es la respuesta, más se tarda: cada trozo cuesta un cálculo.

Al elegir, cada candidato recibe una puntuación de qué tan probable es. Después de «El clima de hoy está», la palabra «agradable» queda arriba y «refrigerador» casi al fondo. Este orden es el resultado de haber aprendido, en el texto de entrenamiento, qué palabras suelen venir después de qué contexto.

2No la busca: la fabrica

Es fácil pensar que el texto generado viene de sacar una frase guardada en algún lugar. Dentro del modelo no hay ningún almacén de frases. Lo único que hay es un conjunto de números que se usa para elegir el siguiente trozo.

Por eso puede salir una frase que nunca antes se escribió en el mundo. Si pides un poema con tu nombre y el de tu perro juntos, lo fabrica. Que produzca algo sin haber visto esa combinación en ningún lado es a la vez la fuerza y el riesgo de esta tecnología.

Por la misma razón, también fabrica con aire convincente cosas que no son ciertas. El criterio para elegir un trozo no es «¿es verdad?», sino «¿encaja en este lugar?». Por eso salen con toda naturalidad títulos de artículos que no existen o números de artículo de ley que nunca existieron.

Eso sí, los textos que el modelo vio muchísimas veces en el entrenamiento quedan casi memorizados en los números, así que a veces una frase que ya existía vuelve a salir tal cual.

3No sale igual cada vez

Si siempre se elige el trozo más probable, el texto sale seguro pero rígido, y se repiten las mismas expresiones. Por eso normalmente se elige con un poco de azar entre los mejores candidatos. Esta es la razón por la que la misma pregunta suele dar una respuesta distinta.

Se puede ajustar cuánto azar entra. Si se estrecha, la respuesta se vuelve estable y sirve para tratar hechos. Si se amplía, la expresión se vuelve más variada, pero también sube la probabilidad de que se cuele un trozo fuera de lugar.

Si quieres recuperar la misma respuesta, en vez de empezar la conversación de nuevo conviene pegar esa respuesta tal cual y pedir que la corrijan. No hay garantía de que el segundo intento sea mejor que el primero.

4El trozo ya entregado no se deshace

Cuando a una persona no le gusta una frase anterior mientras escribe, la borra y la reescribe. La generación no funciona así. Un trozo que ya salió se usa tal cual como base al elegir el siguiente.

Por eso un solo trozo torcido al principio arrastra todo el texto. Si en la primera frase se inventó un personaje que no existe, los párrafos siguientes continúan sobre la base de que ese personaje existe. Como un trozo ya escrito no se puede borrar, corregir un error anterior obliga a añadir más adelante algo como «lo que dije antes era falso». Muchas veces ni eso consigue y se deja arrastrar.

Si la respuesta se fue por un rumbo raro, casi siempre es mejor pedir que se empiece de nuevo desde cero en vez de pedir que se corrija sobre la marcha. Es como cuando el cerrajero pone una llave en blanco nueva.

5Lo que pongas delante decide el resultado

La generación siempre continúa el texto que se puso delante. La petición, la conversación anterior, el material que se pegó: todo eso se convierte en el primer corte. Por eso, con el mismo modelo, el resultado cambia mucho según lo que se haya puesto antes.

Si le pegas un ejemplo del formato que quieres, lo sigue. Si defines un tono, continúa con ese tono. Al revés, si no defines nada, se va por el camino más neutro y sale un texto que se siente ya visto en cualquier parte.

También se puede fijar la longitud de antemano. Eso sí, hay un límite aparte que se mide en número de trozos, y si se llega a ese límite, el texto se corta en seco a mitad de frase.