Glosario NLP

Sistema abstracto de reglas y signos compartido por una comunidad de hablantes. Concepto de Saussure, opuesto a parole (habla).

Espacio de representaciones internas aprendidas por un modelo, donde conceptos similares están cerca.

Hiperparámetro que controla qué tan grandes son los pasos de actualización de pesos durante el entrenamiento.

Reducir palabras a su forma base o lema considerando el contexto (ej: "corriendo" → "correr").

Large Language Model. Modelos de lenguaje con miles de millones de parámetros entrenados en enormes corpus de texto.

Low-Rank Adaptation. Técnica eficiente de fine-tuning que entrena solo matrices de bajo rango añadidas al modelo.

Función que mide el error entre las predicciones del modelo y los valores reales. Se minimiza durante el entrenamiento.