Mistral Large
O modelo comercial principal de um laboratório europeu de pesos abertos
O texto completo é apresentado em inglês; o título e o resumo estão traduzidos.
O QUE É
Mistral Large is the flagship model that France’s Mistral AI released in February 2024, offered under a commercial licence rather than open weights, complementing its open small models. Mistral AI was founded in 2023 in Paris by former DeepMind and Meta researchers. The model targets reasoning, multilingual work and function calling, with a context window in the 128K range. Mistral builds a community with a handful of open models, then serves enterprise needs with commercial ones such as Large.
Por que vale a pena lembrar
It represents the dual-track strategy of open-sourcing small models to win a community and selling flagship models commercially, letting a non-US lab hold ground on both the open-weight and commercial sides.
Especificações-chave
- Parameters
- 123B (Mistral Large 2)
- Context window
- 128K tokens
- Open weights
- No (commercial licence)
- Released
- 2024-02
Capacidades
Geração de texto
Continua um texto palavra a palavra
Conversa e seguimento de instruções
Entender a intenção ao longo do diálogo e agir
Raciocínio e cadeia de pensamento
Decompor um problema difícil em passos intermediários
Uso de ferramentas e chamada de funções
Deixar o modelo escolher a API e preencher os argumentos
Conceitos relacionados
Arquitetura Transformer
Substituir o revezamento palavra a palavra por uma sala onde todos falam ao mesmo tempo, deixando dependências distantes a um salto
Mecanismo de atenção
Cada posição pode olhar diretamente para todas as outras e distribuir atenção conforme a relevância
Pré-treinamento e ajuste fino
Aprender a língua primeiro com texto não rotulado e depois especializar com poucos dados: o paradigma mais eficiente em dados da IA moderna
Produtos semelhantes
Llama
2023A família que tornou a rota de pesos abertos mainstream
GPT-4o
2024Um modelo geral nativamente multimodal: texto, imagem e áudio por uma única porta
Qwen
2023Uma família de pesos abertos com muitos tamanhos e versões multimodais
Command R
2024Um modelo comercial feito para recuperação aumentada e uso de ferramentas
Phi
2023Modelos pequenos e eficientes, construídos com dados selecionados
Jamba
2024Um modelo de pesos abertos que mistura um modelo de espaço de estados com um Transformer
DeepSeek-V3
2024Um MoE de pesos abertos com 671B parâmetros, ativando 37B por token
Yi
2023Um modelo de pesos abertos bilíngue chinês-inglês, com versões de contexto muito longo
DBRX
2024Modelo de linguagem MoE de pesos abertos da Databricks