Memoria de la conversaciónConversation Memory

Cada turno se vuelve a leer desde el principio

Cuando se manda una línea, atrás de la pantalla no se envía solo esa línea. Se vuelve a mandar entero un bloque largo de texto que junta, en orden, todas las preguntas y respuestas de hasta ese momento. Al hacer la pregunta número veinte, las diecinueve anteriores ya están todas metidas dentro de ese texto.

Por eso la IA lee todo de nuevo cada vez. No es que sepa lo que se dijo antes: lo sabe porque está escrito en el texto que tiene delante en ese momento. Si se saca una línea de ese texto, ese contenido pasa a no haber existido.

De ahí también viene que, cuanto más se alarga la conversación, la respuesta se vuelve más lenta y el costo sube. En cada turno hay una hoja más para leer.

Cuando el papeleo se amontona, se sacan las hojas de adelante

La cantidad de hojas que se pueden desplegar de una vez está fijada. Al pasar ese límite, para poder subir una hoja nueva, se baja del escritorio la hoja más vieja primero.

Que después de un buen rato de conversación la IA rompa una regla que se fijó al principio, o vuelva a preguntar un nombre que ya se dio al comienzo, pasa por esto. No es que lo haya olvidado: es que esa hoja ya se bajó del escritorio.

Es más seguro no decir una condición importante solo una vez al principio y dejarla ahí, sino repetirla en el punto que haga falta. La hoja que se acaba de subir todavía está sobre el escritorio.

Una conversación larga se lleva resumida

Como no se puede llevar todo el papeleo tal cual, el servicio achica la parte más vieja en pocas líneas y la mete en su lugar. Diez turnos de conversación comprimidos en unas pocas líneas ocupan el lugar de la conversación original.

Al achicar se ahorra lugar, pero se pierden los detalles. En la nota comprimida puede quedar solo "se habló de planear un viaje", y perderse la fecha o el presupuesto que se fijaron en ese momento. La situación en la que se dijo algo claro y la IA da una respuesta rara suele venir de acá.

Por eso, si la conversación se alargó mucho, funciona mejor abrir una conversación nueva y pegar de vuelta solo lo necesario, ya ordenado.

Anotarlo aparte, en un cajón fuera de la recepción

Los servicios de hoy suelen tener una función para anotar cosas aparte, fuera de la conversación. Algo como "soy vegetariano" se guarda en una lista separada, y esa lista se antepone en silencio cada vez que se empieza una conversación nueva.

Esa lista no desaparece cuando termina la conversación, así que dura mucho tiempo. A cambio, una frase vieja que nunca se borró sigue acompañando, y a veces la respuesta se inclina hacia un gusto que ya no corresponde. Muchos servicios dejan abrir la pantalla de configuración para ver qué está guardado ahí y poder borrarlo.

Una ventana nueva es una hoja en blanco

Al abrir una ventana nueva, no llega ningún papel desde la recepción. Por más que se haya hablado mucho tiempo en la ventana anterior, si no se activó una función de guardado, ese contenido no pasa a la ventana nueva.

Aunque sea el mismo servicio, cada persona usa su propio criterio para dividir en ventanas. Cuando cambia el tema, abrir una ventana nueva hace que la respuesta salga más prolija; si es algo que se va a seguir puliendo, conviene quedarse en la misma ventana. Qué se dijo en qué ventana queda como una tarea que le toca administrar al usuario.