Вопросы и ответы с поиском
Сначала находит свидетельства, затем отвечает по ним
Полный текст статьи представлен на английском; заголовок и аннотация локализованы.
ЧТО ЭТО ЗА ВОЗМОЖНОСТЬ
Takes a question and returns an answer. It has two forms: closed-book, answering from parameters alone, and open-book, retrieving relevant passages from an external corpus first. Retrieval-augmented generation belongs to the latter, keeping knowledge in an updatable external store and usually attaching citations. It differs from free generation by having an explicit question and a verifiable target answer.
Как это устроено
A RAG pipeline chunks documents into vectors in an index, encodes the question the same way and takes nearest neighbours, then pastes the retrieved passages with the question into a prompt so the model can answer with citations. Refinements include hybrid dense-plus-sparse retrieval, query rewriting before retrieval, and a reranker to pick the best passages. Closed-book answering relies purely on knowledge compressed during pre-training.
Примеры продуктов
14Perplexity
2022Отвечает по ходу поиска, каждое утверждение со ссылкой
NotebookLM
2023Отвечает только по вашим источникам и ссылается на них
ChatGPT
2022Окно диалога, которое сделало большую языковую модель доступной каждому
GPT-4o
2024Универсальная модель с нативной мультимодальностью: текст, изображение и звук через один вход
Gemini
2024Единое окно диалога, собравшее поиск, офисные приложения и мультимодальную модель
Command R
2024Коммерческая модель, рассчитанная на дополнение поиском и вызов инструментов
Jamba
2024Модель с открытыми весами, сочетающая модель пространства состояний и Transformer
Kimi
2023Китайский чат-ассистент, известный работой с длинным контекстом
Hunyuan
2023Семейство универсальных моделей Tencent с открытыми весами
Microsoft Copilot
2023Разговорный ИИ, встроенный в операционную систему и офисные приложения
Doubao
2023Универсальная диалоговая модель и приложение ByteDance
LangChain
2022Связывание моделей, инструментов и поиска
ERNIE
2019Китайская модель, начавшая с обогащённого знаниями предобучения, ранняя заметная версия
Pinecone
2019Управляемая векторная БД для поиска по сходству
Связанные организации
Типичное применение
- Enterprise knowledge bases and internal Q&A
- Web-search assistants with citations
- Document and contract interrogation
- Support and technical self-service
Как её оценивают
- Exact Match
- Share of answers identical to the reference
- Answer F1
- Token overlap with the reference, allowing partial credit
- Retrieval hit rate and citation accuracy
- Whether evidence was retrieved and citations actually support the claim
Границы и трудности
- When the right passage is not retrieved, the model still answers confidently — hallucination in disguise
- Multi-hop questions needing several documents break, answering only one link
- Key evidence in the middle of a long context is the most likely to be ignored
Концепции в основе
Генерация с дополнением из поиска
Вместо того чтобы втискивать знания в параметры, держать их снаружи и обращаться по мере надобности — как экзамен с открытой книгой
Механизм внимания
Каждая позиция может напрямую «видеть» все остальные и динамически распределять внимание по релевантности
Промптинг и выравнивание
Сделать модель полезной, честной и безопасной труднее, чем просто увеличить её