Glosario NLP

Algoritmo para calcular gradientes en redes neuronales, propagando el error desde la salida hacia las capas anteriores.

Representación de texto que ignora el orden de las palabras y solo considera su frecuencia. Simple pero pierde contexto.

Algoritmo de búsqueda que mantiene los k mejores candidatos en cada paso de generación. Equilibra calidad y eficiencia.

Bidirectional Encoder Representations from Transformers. Modelo preentrenado de Google que revolucionó el NLP al procesar texto bidireccionalmente.

Bilingual Evaluation Understudy. Métrica para evaluar traducciones automáticas comparando n-gramas con referencias humanas.

Algoritmo de tokenización que fusiona iterativamente los pares de caracteres más frecuentes. Usado en GPT y otros modelos.