Ingeniería de prompts y LLMs

GPT-3 (2020) demostró que los LLMs pueden realizar tareas complejas sin ejemplos explícitos, solo con instrucciones en lenguaje natural. Esto democratizó el acceso a IA generativa.

Técnica central de GPT-3 que permitió adaptación sin fine-tuning. El paper 'Language Models are Few-Shot Learners' (2020) mostró que con solo 10-100 ejemplos se podía alcanzar rendimiento competitivo.

Evolución reciente (2023-2024) que combina embeddings semánticos con few-shot learning para seleccionar los ejemplos más informativos por consulta.

Introducida por Google Research en 2022, revolucionó la capacidad de razonamiento de LLMs. Simple frase 'Let's think step by step' mejora accuracy en problemas matemáticos de 17% a 78%.

Propuesta por Google en 2022 como mejora de CoT. Insight: aunque un razonamiento individual puede fallar, la respuesta correcta tiende a aparecer más frecuentemente en múltiples intentos.

Princeton/Google DeepMind 2023. Inspirado en algoritmos de búsqueda en árbol (MCTS). Permite al LLM 'pensar hacia adelante' y 'retroceder' como humanos resolviendo problemas complejos.

Propuesto por Facebook AI (2020). Resuelve el problema fundamental de LLMs: conocimiento estático y limitado. RAG permite actualizar conocimiento sin reentrenar, crucial para aplicaciones empresariales.

Evolución reciente (2023-2024) que reconoce limitaciones de embeddings puros: fallan en términos técnicos exactos, acrónimos, nombres propios.

Naive chunking (dividir cada N tokens) pierde coherencia. Chunking semántico (2023-2024) divide por temas, preservando unidades de significado.

Google Research (2022). Unificó dos paradigmas: razonamiento verbal (como CoT) y toma de decisiones/acciones. Permite a los LLMs interactuar con el mundo real.

Popularizado por OpenAI (2023) como 'Function Calling'. Transformó los LLMs de generadores de texto a controladores de API fiables.

CMU/Google (2022). Observación clave: Los LLMs son mejores escribiendo código correcto que realizando cálculos aritméticos mentalmente.

Wu et al. (2022). Surge como solución a las limitaciones de contexto y capacidad de razonamiento en single-turn prompting.

Paper 'Large Language Models are Human-Level Prompt Engineers' (2022). Demostró que los LLMs pueden optimizar sus propias instrucciones.

Google Research (2022). Inspirado en métodos educativos y programación dinámica. Clave para generalización composicional (resolver problemas más difíciles que los vistos en training).

Paper de Zhou et al. (2022). Demostraron que los prompts generados por LLMs a menudo superan a los escritos por humanos.

Diao et al. (2023). Inspirado en Active Learning tradicional. En lugar de seleccionar ejemplos aleatorios para el prompt, selecciona aquellos donde el modelo duda más.

Li et al. (2023). Propone usar un modelo auxiliar pequeño para generar 'pistas' que guíen al LLM grande hacia la respuesta deseada.

Evolución natural de CoT aplicado a modelos Vision-Language (GPT-4V, Gemini 1.5). Fundamental para tareas de razonamiento visual complejo (VQA).

Microsoft Research (2023). Soluciona el problema de 'grounding' (referencia precisa) en modelos multimodales que fallaban al señalar coordenadas exactas.

Con Gemini 1.5 Pro y GPT-4o, la ventana de contexto creció para permitir subir videos enteros (miles de frames) como input.

Heredado de PLN tradicional (BLEU para traducción). En la era LLM, ha evolucionado hacia métricas de similitud semántica (Embeddings) y exactitud factual.

Paper 'Judging LLM-as-a-Judge' (2023). Demostró que GPT-4 tiene una correlación >80% con evaluadores humanos expertos.

El estándar de oro (Gold Standard) desde siempre. RLHF (Reinforcement Learning from Human Feedback) se basa enteramente en esto.