问答与检索增强
先检索证据，再据此给出答案
语言与知识入门 #07
输入文本文本
这项能力指什么
输入一个问题，输出答案。它有两种形态：闭卷式（只靠模型参数回答）与开卷式（先在外部语料里检索相关段落，再据此作答）。检索增强生成（RAG）属于后者，把「知识」放在可更新的外部库里，答案通常还附带引用来源。与「文本生成」的区别是有明确提问与可验证的目标答案。
技术上如何做到
RAG 的流水线是：把文档切块并编码成向量存入索引，问题同样编码后做近邻检索，取回的片段与问题一起拼进提示，由语言模型生成带引用的答案。进阶做法包括混合检索（稠密加稀疏）、先改写问题再检索、以及用重排序模型精挑片段。闭卷式则纯靠预训练中压缩的知识与推理。
代表产品
14Perplexity
2022Perplexity AI
边检索边作答、每条答案都带出处
应用 免费增值
文本文本
NotebookLM
2023Google DeepMind
只用你给它的资料作答，并逐条给出出处
应用 免费增值
文本表格音频文本音频
ChatGPT
2022OpenAI
把大模型变成一个人人可用的对话窗口
应用 免费增值
文本图像音频文本图像音频
GPT-4o
2024OpenAI
原生多模态的通用模型，文本、图像与音频走同一个入口
模型 闭源
文本图像音频文本音频
Gemini
2024Google DeepMind
把搜索、办公与多模态模型收进一个对话入口
应用 免费增值
文本图像音频文本图像音频
Command R
2024Cohere
为检索增强与工具调用设计的商用模型
模型 开放权重
文本文本
Jamba
2024AI21 Labs
把状态空间模型与 Transformer 混合的开放权重模型
模型 开放权重
文本文本
Kimi
2023Moonshot AI
以长上下文处理见长的中文对话助手
模型 闭源
文本文本
Hunyuan
2023Tencent (Hunyuan)
腾讯的通用模型家族，含开放权重版本
模型 开放权重
文本图像文本
Microsoft Copilot
2023Microsoft
把对话式 AI 嵌进操作系统与办公软件
应用 免费增值
文本图像音频文本图像
Doubao
2023ByteDance (Seed)
字节跳动的通用对话模型与应用
模型 闭源
文本图像文本
LangChain
2022LangChain
把模型、工具与检索串成链
工具 开源
ERNIE
2019Baidu
以知识增强预训练起步的中文模型，早期的代表版本
模型 闭源
文本文本
Pinecone
2019Pinecone
托管式向量数据库与相似度检索
基础设施 闭源
相关机构
典型用途
- 企业知识库与内部问答
- 带引用的联网搜索助手
- 文档阅读与合同询问
- 客服与技术支持自助回答
怎么评价它好不好
- 精确匹配 EM
- 答案与标准答案完全一致的比例
- 答案 F1
- 与参考答案的词级重叠，允许部分得分
- 检索命中与引用准确率
- 证据是否被召回、引用是否真支持结论
边界与难点
- 检索不到正确段落时，模型仍会自信作答，退化为幻觉
- 需要跨多篇文档串联的多跳问题容易断链，只答出其中一环
- 长上下文里关键信息在中间时最易被忽略，即「迷失中段」