Hỏi đáp và tăng cường truy hồi
Truy hồi bằng chứng trước, rồi trả lời dựa trên đó
Toàn văn của trang này được trình bày bằng tiếng Anh; tiêu đề và phần dẫn đã được bản địa hóa.
NĂNG LỰC NÀY NGHĨA LÀ GÌ
Takes a question and returns an answer. It has two forms: closed-book, answering from parameters alone, and open-book, retrieving relevant passages from an external corpus first. Retrieval-augmented generation belongs to the latter, keeping knowledge in an updatable external store and usually attaching citations. It differs from free generation by having an explicit question and a verifiable target answer.
Làm ra sao về mặt kỹ thuật
A RAG pipeline chunks documents into vectors in an index, encodes the question the same way and takes nearest neighbours, then pastes the retrieved passages with the question into a prompt so the model can answer with citations. Refinements include hybrid dense-plus-sparse retrieval, query rewriting before retrieval, and a reranker to pick the best passages. Closed-book answering relies purely on knowledge compressed during pre-training.
Sản phẩm tiêu biểu
14Perplexity
2022Trả lời trong lúc tìm kiếm, mỗi câu đều kèm nguồn
NotebookLM
2023Chỉ trả lời từ nguồn bạn đưa, kèm trích dẫn từng chỗ
ChatGPT
2022Cửa sổ trò chuyện đưa mô hình ngôn ngữ lớn đến tay mọi người
GPT-4o
2024Mô hình đa phương thức gốc, xử lý văn bản, hình ảnh và âm thanh qua một cửa vào
Gemini
2024Một cửa vào trò chuyện gom tìm kiếm, ứng dụng văn phòng và mô hình đa phương thức
Command R
2024Mô hình thương mại dành cho tăng cường truy hồi và gọi công cụ
Jamba
2024Mô hình trọng số mở kết hợp mô hình không gian trạng thái với Transformer
Kimi
2023Trợ lý hội thoại tiếng Trung nổi bật với xử lý ngữ cảnh dài
Hunyuan
2023Dòng mô hình phổ thông của Tencent, có bản trọng số mở
Microsoft Copilot
2023AI hội thoại gắn thẳng vào hệ điều hành và ứng dụng văn phòng
Doubao
2023Mô hình hội thoại phổ thông và ứng dụng của ByteDance
LangChain
2022Ghép mô hình, công cụ và truy hồi lại với nhau
ERNIE
2019Mô hình tiếng Trung khởi đầu bằng tiền huấn luyện tăng cường tri thức, bản đầu tiên tiêu biểu
Pinecone
2019Cơ sở dữ liệu vector được quản lý cho tìm kiếm tương đồng
Tổ chức liên quan
Cách dùng tiêu biểu
- Enterprise knowledge bases and internal Q&A
- Web-search assistants with citations
- Document and contract interrogation
- Support and technical self-service
Đánh giá nó tốt hay không thế nào
- Exact Match
- Share of answers identical to the reference
- Answer F1
- Token overlap with the reference, allowing partial credit
- Retrieval hit rate and citation accuracy
- Whether evidence was retrieved and citations actually support the claim
Ranh giới và điểm khó
- When the right passage is not retrieved, the model still answers confidently — hallucination in disguise
- Multi-hop questions needing several documents break, answering only one link
- Key evidence in the middle of a long context is the most likely to be ignored
Các khái niệm đằng sau
Sinh văn bản tăng cường truy xuất
Thay vì nhồi kiến thức vào tham số, hãy để nó ở ngoài và tra khi cần — như thi mở sách
Cơ chế chú ý (Attention)
Mọi vị trí đều có thể nhìn thẳng vào mọi vị trí khác và phân bổ chú ý theo mức liên quan
Kỹ thuật prompt và căn chỉnh
Làm cho mô hình hữu ích, trung thực và vô hại khó hơn việc chỉ phóng to nó