本文へスキップ
AI図鑑

Llama

オープンウェイト路線を主流にした汎用モデル群

Meta AI (FAIR) モデル オープンウェイト
入力テキストテキスト

本ページの本文は英語で提供されています。タイトルと導入は日本語化されています。

これは何か

Llama is Meta’s large language model family, first released in February 2023 and distributed as open weights that can be downloaded and run in one’s own environment. From Llama 2 onward, Meta permitted commercial use and offered several sizes such as 7B, 13B and 70B; Llama 3.1 extended the largest version to 405B parameters. It is a pretrained base on which the community performs extensive instruction tuning and domain adaptation. Its open weights made it a default starting point for many open-source projects.

なぜ覚えておく価値があるか

By releasing large models as open weights under a commercially usable licence, it made “download a base model and fine-tune it yourself” common practice and opened the open-weight camp’s direct competition with the closed frontier.

主な仕様

Parameters
8B / 70B / 405B (Llama 3.1 family)
Context window
128K tokens (Llama 3.1)
Open weights
Yes
Released
2023-02

対応する能力

関連する概念

同種の製品

Mistral Large

2024
Mistral AI

欧州のオープンウェイト研究所による商用フラッグシップモデル

モデル クローズド
テキストテキスト

Qwen

2023
Alibaba (Qwen)

多様な規模とマルチモーダル版を備えたオープンウェイトのモデル群

モデル オープンウェイト
テキスト画像テキスト

DeepSeek-V3

2024
DeepSeek

総パラメータ 671B、1 トークンあたり 37B だけを活性化するオープンウェイト MoE

モデル オープンウェイト
テキストテキスト

GPT-4o

2024
OpenAI

ネイティブにマルチモーダルな汎用モデル。テキスト・画像・音声をひとつの入口で扱う

モデル クローズド
テキスト画像音声テキスト音声

Claude

2023
Anthropic

長い文脈と安全性の調整で知られる汎用対話モデル

モデル クローズド
テキスト画像テキスト

Gemini

2023
Google DeepMind

ネイティブにマルチモーダルで、超長文脈を扱う汎用モデル

モデル クローズド
テキスト画像音声動画テキスト

Phi

2023
Microsoft

小さな規模と厳選データで作られた高効率な小モデル

モデル オープンウェイト
テキストテキスト

Command R

2024
Cohere

検索拡張とツール呼び出しのために設計された商用モデル

モデル オープンウェイト
テキストテキスト

Jamba

2024
AI21 Labs

状態空間モデルと Transformer を混合したオープンウェイトモデル

モデル オープンウェイト
テキストテキスト

Yi

2023
01.AI

中英バイリンガルで超長文脈版もあるオープンウェイトモデル

モデル オープンウェイト
テキストテキスト

DBRX

2024
Databricks

DatabricksのオープンウェイトMoE言語モデル

モデル オープンウェイト
テキストテキスト