¿Qué es N-grama? — una analogía

1La analogía

Imagina mil piezas de rompecabezas volcadas en el suelo, con la caja de la imagen tapada. Lo único que se puede hacer es mirar la forma de las muescas del borde de la pieza que tienes en la mano y buscar la que encaje ahí.

El método funciona bastante bien. Dos o tres piezas seguidas encajan sin problema, porque si la muesca coincide, el color también suele seguir. Pero si encajas unas veinte piezas y das un paso atrás para mirar, pasa algo raro: cada unión está perfecta, pero el conjunto no es ni cielo ni mar, es una mancha sin sentido.

Mirar solo el borde tiene un límite. Si en vez de mirar dos muescas se intenta mirar cinco a la vez, el número de combinaciones que hay que considerar se dispara enseguida.

2En detalle

Contaban las últimas palabras

Lo que hacía el modelo de lenguaje antiguo era simple. Repasaba una cantidad enorme de texto y contaba, para formar una tabla, qué palabra venía después de cuál palabra y cuántas veces. Algo así como que después de "me comí" venía "el pan" decenas de miles de veces, y "el balón" solo unas pocas.

Para elegir la siguiente palabra, se consultaba esa tabla. Si las dos últimas palabras eran "hoy hace", se miraba cuántas veces vino cada palabra después de eso, y se elegía la más frecuente, o se sacaba una en proporción a esas veces. Aprender era, también, solo contar, así que el entrenamiento era muy rápido.

El rango que se mira, n, le dio nombre al método. Mirando solo la última palabra es bigrama; mirando las dos últimas, trigrama. Cuanto más amplio era el rango, más natural sonaba la frase.

Al ensanchar la ventana, choca con la pared

¿Y si se amplía el rango a diez palabras? Aquí el método se derrumba. Si hay cincuenta mil palabras posibles, las combinaciones de dos palabras ya son dos mil quinientos millones, y las de tres, cincuenta mil veces eso. No hay forma de construir ni de guardar esa tabla.

El problema no es solo que el número crezca. Cuantas más combinaciones hay, más casillas quedan vacías, en cero. Por muchísimo texto que se reúna, es imposible haber visto todas las combinaciones de diez palabras que existen en el mundo.

Por eso el rango que en la práctica se podía usar se quedaba entre tres y cuatro palabras. De ahí viene que las uniones salgan naturales, pero el párrafo entero termine sin sentido de principio a fin.

Lo nunca visto se vuelve cero

Al encontrarse con una combinación que no está en la tabla, la probabilidad se vuelve cero. Significa que una frase con un nombre nunca visto antes queda, directamente, fuera de alcance. En un texto real esto pasa todo el tiempo, así que no se podía dejar así sin más.

Por eso se usaban métodos para tapar esos huecos. Uno era sumarle de antemano un valor muy pequeño a todas las combinaciones; otro era retroceder un escalón: si no había combinación de tres palabras, se buscaba con dos, y si tampoco, con una sola.

Estos ajustes tapaban el hueco, pero no daban sentido. Para este método, "gato" y "gatos" son dos palabras completamente distintas y sin relación. Haber visto mucho una no ayuda a manejar mejor la otra.

Qué cambió en el método actual

El cambio más grande tiene dos partes. La primera es el rango que se mira. El modelo actual no mira las últimas dos o tres palabras: mira miles de trozos a la vez. De ahí que un nombre fijado al principio de un párrafo se mantenga hasta el final.

La segunda es que, en vez de contar, trata juntas las palabras de sentido parecido. Si a cada palabra se le asigna un bloque de números, lo aprendido con "gato" también se traslada, en parte, a "gatos" y a "felino". Aunque aparezca una combinación nunca vista, se puede responder apoyándose en palabras que estuvieron en un lugar parecido.

Por eso el tamaño de la tabla ya no crece al ritmo de las combinaciones. Aunque aumente el número de palabras posibles, el tamaño del bloque de números que se les asigna se mantiene igual. Así se puede ensanchar la ventana sin que el costo se dispare.

Lo que todavía sigue en pie

El método antiguo no desapareció por completo. Como basta con contar, es ligero y rápido, y se puede abrir la tabla para ver por qué salió ese candidato.

En el autocompletado del buscador, en las sugerencias de corrección de errores, en la palabra siguiente que propone el teclado, en lugares donde basta con un rango corto y hace falta responder al instante, todavía se usa hoy. También se usa para comparar textos o detectar plagio, contando en qué medida se repiten bloques de tres letras seguidas.

Sobre todo, la idea misma de entrenar adivinando la palabra siguiente se mantuvo tal cual. El modelo actual hace lo mismo: lo que cambió es el rango que mira y la forma de tratarlo.

3Con más precisión

El modelo N-grama asume que, con mirar solo las n menos uno palabras anteriores, ya queda determinada la siguiente, y construye una tabla de probabilidad dividiendo las veces contadas en los datos de entrenamiento. Gracias a esta suposición el cálculo se simplifica, pero a cambio se da por inexistente cualquier relación que quede fuera de ese rango. Para tapar los huecos se usan métodos como sumar un valor pequeño a todas las casillas o retroceder un escalón en busca de una combinación más corta. Para medir qué tan bien acertaba el texto un modelo así se usó un valor llamado perplejidad, y esa misma vara se sigue usando hoy para evaluar los modelos actuales.

La analogía también tiene sus costuras. La muesca de una pieza de rompecabezas encaja o no encaja, sin más, pero la palabra siguiente no queda fijada en una sola opción: en la tabla quedan varios candidatos, cada uno con su propio número de veces. Además, un rompecabezas tiene una imagen final ya definida, pero un texto no tiene una única respuesta correcta. Y el rompecabezas se puede empezar por cualquier parte, mientras que este método siempre enlaza de izquierda a derecha, en ese único sentido.

4Pruébalo

5Malentendidos comunes

Es fácil pensar que el N-grama aprendió gramática, pero en realidad es solo una tabla que cuenta cuántas veces vino una palabra después de otra.
Es fácil pensar que ampliar el rango mejora el rendimiento sin parar, pero en realidad las combinaciones se disparan y la mayoría de las casillas quedan vacías, así que termina siendo inutilizable.
Es fácil pensar que la IA de hoy también mira solo las últimas palabras para elegir la siguiente, pero en realidad mira de golpe miles de trozos anteriores.

7Resumen en una línea

En resumenEl N-grama es el método que adivinaba la palabra siguiente contando las últimas palabras, y por sus dos paredes, la ventana estrecha y las combinaciones nunca vistas, se pasó al método actual.

¿Te ayudó esta analogía?

¿Has visto un error o tienes una analogía mejor? Sugerir una corrección · Última actualización2026-09-02