Yi
Un modèle à poids ouverts bilingue chinois-anglais, avec des versions à très long contexte
Le texte intégral est présenté en anglais ; le titre et le résumé sont localisés.
CE QUE C'EST
Yi is an open-weight model series 01.AI released in November 2023. 01.AI was founded in Beijing in 2023 by Kai-Fu Lee. Positioned as a bilingual Chinese–English general model, Yi ships in sizes such as 6B and 34B, with versions that extend the context to the 200K-token range. It offers both base and instruction-tuned models, with weights downloadable under a permissive licence. Its bilingual ability and long-context options make it a common base for Chinese–English tasks in the open-source community.
Pourquoi il compte
At a time when open models leaned English, it made “balanced Chinese–English plus very long context” an explicit selling point and covered different compute budgets with 6B and 34B sizes — a common base choice in the Chinese community.
Caractéristiques clés
- Parameters
- 6B / 34B (Yi family)
- Context window
- 200K tokens (Yi-34B-200K)
- Open weights
- Yes
- Released
- 2023-11
Capacités
Concepts liés
Architecture Transformer
Remplacer le relais mot à mot par une salle où tous parlent en même temps, pour que les dépendances lointaines soient à un saut
Pré-entraînement et affinage
Apprendre d’abord la langue sur d’immenses corpus non annotés, puis se spécialiser avec peu de données : le paradigme le plus économe en données
Tokenisation
Les modèles ne lisent pas des caractères mais des tokens ; le découpage fixe silencieusement la capacité et le coût
Produits comparables
Qwen
2023Une famille à poids ouverts couvrant de nombreuses tailles, avec des versions multimodales
Baichuan
2023Un modèle général à poids ouverts visant l’usage en chinois
Llama
2023La famille qui a fait des poids ouverts une voie grand public
Mistral Large
2024Le modèle commercial phare d’un laboratoire européen de poids ouverts