Métodos de entrenamiento

58

Cómo aprende la IA a partir de datos. Aprendizaje supervisado, no supervisado y por refuerzo, ajuste fino, sobreajuste, función de pérdida, descenso de gradiente: los pasos escondidos tras la palabra «entrenar», uno a uno.

Nivel
Agente y entornoAgent & Environment

Quien actúa y el tablero que responde a esa acción

Inicial
AgrupamientoClustering

Juntar lo parecido sin ninguna etiqueta previa

Básicos Fundamentos
Ajuste finoFine-Tuning

Retocar un poco más un modelo ya entrenado con datos nuevos

Fundamentos
Ajuste por instruccionesInstruction Tuning

Etapa donde el modelo aprende a responder según la instrucción

LLM Fundamentos
Algoritmo genéticoGenetic Algorithm

Mezclar y variar un poco varios candidatos para ir eligiendo

Fundamentos
AlineaciónAlignment

Ajustar la capacidad de la IA a lo que las personas desean

Ética Fundamentos
Aprendizaje automáticoMachine Learning

Enseñar con ejemplos en vez de escribir las reglas

Básicos Inicial
Aprendizaje autosupervisadoSelf-Supervised Learning

Aprender dejando que los datos fabriquen su problema y su respuesta

Fundamentos
Aprendizaje contrastivoContrastive Learning

Acercar lo que es igual y alejar lo que es distinto al aprender

Avanzado
Aprendizaje federadoFederated Learning

Juntar solo el resumen de lo aprendido, sin juntar los datos

Avanzado
Aprendizaje no supervisadoUnsupervised Learning

Encontrar la estructura de los datos sin ninguna respuesta puesta

Inicial
Aprendizaje por imitaciónImitation Learning

Aprender copiando tal cual el actuar de quien ya sabe hacerlo

Fundamentos
Aprendizaje por refuerzoReinforcement Learning

Aprender a base de intentar y corregir según la puntuación recibida

Inicial
Aprendizaje por transferenciaTransfer Learning

Llevar a una tarea nueva la base ya aprendida en otra

Fundamentos
Aprendizaje semisupervisadoSemi-Supervised Learning

Aprender con poco dato etiquetado y mucho dato sin etiquetar

Avanzado
Aprendizaje supervisadoSupervised Learning

Aprender una regla a partir de ejemplos con la respuesta ya puesta

Inicial
Aumento de datosData Augmentation

Transformar los datos que ya tienes para multiplicar su variedad

Fundamentos
Colapso de modoMode Collapse

Cuando quien genera repite unas pocas cosas y se pierde la variedad

Generativa Avanzado
Colapso del modeloModel Collapse

Cuando la IA aprende de lo que ella misma creó y pierde diversidad

Ética Avanzado
Conjunto de validaciónValidation Set

Datos apartados solo para revisar, nunca para entrenar

Inicial
ConvergenciaConvergence

El estado en que el valor deja de mejorar y se mantiene fijo

Fundamentos
Curva de aprendizajeLearning Curve

La línea del puntaje según las vueltas o la cantidad de datos

Inicial
Descenso de gradienteGradient Descent

Moverse poco a poco hacia donde el error se hace más pequeño

Fundamentos
Destilación de conocimientoKnowledge Distillation

Pasar el criterio de un modelo grande a uno pequeño

Avanzado
Desvanecimiento del gradienteVanishing Gradient

Señal de aprendizaje que casi desaparece al pasar entre capas

Arquitectura Avanzado
DQNDeep Q-Network

Hacer que una red neuronal recuerde la tabla de valores Q

Avanzado
Dropout

Apagar al azar partes del modelo mientras entrena

Fundamentos
EntrenamientoTraining

El proceso de ajustar los parámetros poco a poco con ejemplos

Básicos Inicial
ÉpocaEpoch

La unidad que cuenta una vuelta completa a los datos de entrenamiento

Inicial
Error cuadrático medioMean Squared Error

Castigo que resulta de elevar al cuadrado la distancia y promediarla

Evaluación Fundamentos
Exploración y explotaciónExploration vs Exploitation

El equilibrio entre usar lo conocido o probar algo nuevo

Fundamentos
Fuga de datosData Leakage

Información indebida que se cuela al entrenar e infla el puntaje

Evaluación Fundamentos
Función de pérdidaLoss Function

La regla que mide en un número cuánto se aleja la respuesta

Fundamentos
GeneralizaciónGeneralization

La capacidad de acertar también con datos nuevos

Básicos Fundamentos
GradienteGradient

La señal que indica hacia dónde y cuánto moverse para reducir el error

Arquitectura Fundamentos
HiperparámetroHyperparameter

El valor que una persona fija antes de empezar a entrenar

Fundamentos
Ley de escaladoScaling Law

Regla que muestra cuánto mejora el rendimiento al crecer la escala

LLM Fundamentos
LoRA

Dejar el cuerpo intacto y entrenar solo un pequeño añadido

Avanzado
Mini-loteMini-Batch

Procesar los datos en tandas, dando un paso por cada una

Fundamentos
Mínimo localLocal Minimum

Un punto atrapado, aunque exista uno más bajo cerca

Fundamentos
Modelo del mundoWorld Model

Un modelo que guarda cómo funciona el mundo y lo ensaya antes

Generativa Avanzado
Olvido catastróficoCatastrophic Forgetting

Perder una destreza anterior mientras se aprende algo nuevo

Avanzado
OptimizadorOptimizer

La regla que recibe el gradiente y decide cómo mover los valores

Avanzado
Parada tempranaEarly Stopping

Detener el entrenamiento cuando el puntaje de validación no mejora

Inicial
PolíticaPolicy

La norma que fija qué hacer en cada situación

Fundamentos
PreentrenamientoPretraining

Etapa donde se aprende lo básico antes de decidir para qué se usará

LLM Fundamentos
Punto de controlCheckpoint

Copia del estado del modelo durante o tras el entrenamiento

Inicial
Q-learning

Anotar y corregir la puntuación esperada de cada acción

Avanzado
RecompensaReward

El puntaje de bien o mal que llega después de actuar

Inicial
RegresiónRegression

Dar un número dentro de una escala continua

Básicos Fundamentos
RegularizaciónRegularization

Penalizar que los valores del modelo crezcan demasiado

Fundamentos
RetropropagaciónBackpropagation

El procedimiento que reparte el error hacia atrás, paso a paso

Fundamentos
RLHF

Ajusta el tono de la respuesta con preferencias humanas

LLM Fundamentos
RuidoNoise

La mancha mezclada que también es el punto de partida de la creación

Generativa Inicial
SobreajusteOverfitting

Memorizar los ejercicios de práctica y fallar con los nuevos

Fundamentos
SubajusteUnderfitting

Ni siquiera acierta bien con los datos de práctica

Fundamentos
Tasa de aprendizajeLearning Rate

El multiplicador que ajusta el tamaño de cada paso

Fundamentos
Validación cruzadaCross-Validation

Dividir los datos en partes, turnarlas y promediar los resultados

Avanzado