Glosario NLP

Escuela lingüística iniciada por Chomsky que busca describir la competencia innata y las reglas que permiten generar infinitas oraciones.

Global Vectors for Word Representation. Algoritmo de embeddings basado en co-ocurrencia de palabras en un corpus.

Generative Pre-trained Transformer. Familia de modelos de lenguaje autorregresivos de OpenAI, diseñados para generar texto.

Algoritmo de optimización que ajusta los pesos del modelo en la dirección que minimiza la función de pérdida.

Unidad mínima de escritura en un sistema ortográfico. En español incluye letras individuales (a, b, c) y dígrafos como "ch", "ll", "rr" (aunque desde la reforma ortográfica de 2010 "ch" y "ll" ya no se consideran letras independientes del abecedario). Contraparte escrita del fonema.

Conjunto de principios y reglas innatas comunes a todas las lenguas humanas, según la teoría generativa.

Estrategia de decodificación que siempre elige el token más probable en cada paso. Rápida pero puede ser subóptima.

Conectar el conocimiento del modelo con información del mundo real verificable, reduciendo alucinaciones.