输入文本文本
它是什么
Llama 是 Meta 于 2023 年 2 月发布的大语言模型系列,以开放权重的方式发布,可下载后在自有环境中运行。从 Llama 2 起,Meta 允许商业使用,并给出 7B、13B、70B 等多个规模;Llama 3.1 又把最大版本扩展到 405B 参数。它本身是一个预训练基座,社区在其上做了大量指令微调与领域适配。开放权重让它成为许多开源项目的默认起点。
为什么值得记住
用开放权重加可商用许可的方式发布大模型,让“下载一个基座再自己微调”成为普遍做法,也是开放权重阵营与闭源前沿正面竞争的开端。
关键规格
- 参数规模
- 8B / 70B / 405B(Llama 3.1 系列)
- 上下文窗口
- 128K tokens(Llama 3.1)
- 开放权重
- 是
- 发布
- 2023-02
所属能力
相关概念
同类产品
Mistral Large
2024Mistral AI
欧洲开源实验室的旗舰商用模型
模型 闭源
文本文本
Qwen
2023Alibaba (Qwen)
覆盖多规格、含多模态版本的开放权重模型家族
模型 开放权重
文本图像文本
DeepSeek-V3
2024DeepSeek
671B 总参数、每 token 只激活 37B 的开放权重 MoE 模型
模型 开放权重
文本文本
GPT-4o
2024OpenAI
原生多模态的通用模型,文本、图像与音频走同一个入口
模型 闭源
文本图像音频文本音频
Claude
2023Anthropic
以长上下文与安全对齐见长的通用对话模型
模型 闭源
文本图像文本
Gemini
2023Google DeepMind
原生多模态、可处理超长上下文的通用模型
模型 闭源
文本图像音频视频文本
Phi
2023Microsoft
用小体量和精选数据做成的高效小模型
模型 开放权重
文本文本
Command R
2024Cohere
为检索增强与工具调用设计的商用模型
模型 开放权重
文本文本
Jamba
2024AI21 Labs
把状态空间模型与 Transformer 混合的开放权重模型
模型 开放权重
文本文本
Yi
202301.AI
中英双语、提供超长上下文版本的开放权重模型
模型 开放权重
文本文本
DBRX
2024Databricks
Databricks 的开放权重 MoE 语言模型
模型 开放权重
文本文本