Preguntas y respuestas con recuperación
Recupera la evidencia primero y responde a partir de ella
El texto completo se presenta en inglés; el título y el resumen están traducidos.
QUÉ SIGNIFICA ESTA CAPACIDAD
Takes a question and returns an answer. It has two forms: closed-book, answering from parameters alone, and open-book, retrieving relevant passages from an external corpus first. Retrieval-augmented generation belongs to the latter, keeping knowledge in an updatable external store and usually attaching citations. It differs from free generation by having an explicit question and a verifiable target answer.
Cómo se consigue técnicamente
A RAG pipeline chunks documents into vectors in an index, encodes the question the same way and takes nearest neighbours, then pastes the retrieved passages with the question into a prompt so the model can answer with citations. Refinements include hybrid dense-plus-sparse retrieval, query rewriting before retrieval, and a reranker to pick the best passages. Closed-book answering relies purely on knowledge compressed during pre-training.
Productos representativos
14Perplexity
2022Responde mientras busca, con fuentes en cada respuesta
NotebookLM
2023Responde solo con las fuentes que le das, citando cada una
ChatGPT
2022La ventana de chat que puso un gran modelo de lenguaje en manos de todos
GPT-4o
2024Un modelo general nativamente multimodal: texto, imagen y audio por una misma puerta
Gemini
2024Una entrada de chat que reúne búsqueda, ofimática y un modelo multimodal
Command R
2024Un modelo comercial diseñado para recuperación aumentada y uso de herramientas
Jamba
2024Un modelo de pesos abiertos que mezcla un modelo de espacio de estados con un Transformer
Kimi
2023Un asistente de chat chino conocido por manejar contextos largos
Hunyuan
2023La familia de modelos generales de Tencent, con versiones de pesos abiertos
Microsoft Copilot
2023IA conversacional integrada en el sistema operativo y las apps de oficina
Doubao
2023El modelo de chat general y la aplicación de ByteDance
LangChain
2022Encadena modelos, herramientas y recuperación
ERNIE
2019Un modelo chino que comenzó con preentrenamiento enriquecido con conocimiento, versión temprana representativa
Pinecone
2019Base de datos vectorial gestionada para búsqueda por similitud
Organizaciones relacionadas
Usos típicos
- Enterprise knowledge bases and internal Q&A
- Web-search assistants with citations
- Document and contract interrogation
- Support and technical self-service
Cómo se evalúa
- Exact Match
- Share of answers identical to the reference
- Answer F1
- Token overlap with the reference, allowing partial credit
- Retrieval hit rate and citation accuracy
- Whether evidence was retrieved and citations actually support the claim
Límites y dificultades
- When the right passage is not retrieved, the model still answers confidently — hallucination in disguise
- Multi-hop questions needing several documents break, answering only one link
- Key evidence in the middle of a long context is the most likely to be ignored
Conceptos detrás
Generación aumentada por recuperación
En lugar de meter el conocimiento en los parámetros, dejarlo fuera y consultarlo cuando haga falta: como un examen a libro abierto
Mecanismo de atención
Cada posición puede mirar directamente a todas las demás y repartir su atención según la relevancia
Ingeniería de prompts y alineación
Hacer que un modelo sea útil, honesto e inofensivo es más difícil que simplemente agrandarlo