Mistral Large
El modelo comercial insignia de un laboratorio europeo de pesos abiertos
El texto completo se presenta en inglés; el título y el resumen están traducidos.
QUÉ ES
Mistral Large is the flagship model that France’s Mistral AI released in February 2024, offered under a commercial licence rather than open weights, complementing its open small models. Mistral AI was founded in 2023 in Paris by former DeepMind and Meta researchers. The model targets reasoning, multilingual work and function calling, with a context window in the 128K range. Mistral builds a community with a handful of open models, then serves enterprise needs with commercial ones such as Large.
Por qué merece la pena recordarlo
It represents the dual-track strategy of open-sourcing small models to win a community and selling flagship models commercially, letting a non-US lab hold ground on both the open-weight and commercial sides.
Especificaciones clave
- Parameters
- 123B (Mistral Large 2)
- Context window
- 128K tokens
- Open weights
- No (commercial licence)
- Released
- 2024-02
Capacidades
Generación de texto
Continúa un texto palabra por palabra
Conversación y seguimiento de instrucciones
Entender la intención en el diálogo y actuar en consecuencia
Razonamiento y cadena de pensamiento
Descomponer un problema difícil en pasos intermedios
Uso de herramientas y function calling
Que el modelo elija la API y rellene los argumentos
Conceptos relacionados
Arquitectura Transformer
Sustituir el relé palabra a palabra por una sala donde todos hablan a la vez, para que las dependencias lejanas estén a un salto
Mecanismo de atención
Cada posición puede mirar directamente a todas las demás y repartir su atención según la relevancia
Preentrenamiento y ajuste fino
Aprender el lenguaje primero con texto sin etiquetas y luego especializarse con pocos datos: el paradigma más eficiente en datos de la IA moderna
Productos similares
Llama
2023La familia que llevó la ruta de pesos abiertos a la corriente principal
GPT-4o
2024Un modelo general nativamente multimodal: texto, imagen y audio por una misma puerta
Qwen
2023Una familia de pesos abiertos con muchos tamaños y versiones multimodales
Command R
2024Un modelo comercial diseñado para recuperación aumentada y uso de herramientas
Phi
2023Modelos pequeños y eficientes construidos con datos seleccionados
Jamba
2024Un modelo de pesos abiertos que mezcla un modelo de espacio de estados con un Transformer
DeepSeek-V3
2024Un MoE de pesos abiertos con 671B parámetros, activando 37B por token
Yi
2023Un modelo de pesos abiertos bilingüe chino-inglés, con versiones de contexto muy largo
DBRX
2024Modelo de lenguaje MoE de pesos abiertos de Databricks