Transformers
Une API pour charger et entraîner des modèles pré-entraînés
Le texte intégral est présenté en anglais ; le titre et le résumé sont localisés.
CE QUE C'EST
Transformers is an open-source library maintained by Hugging Face, released in 2018, that loads, runs and trains pretrained models through a single interface. It began with Transformer architectures such as BERT and GPT and now spans text, vision, speech and multimodal models. It solves the problem of converging models of differing origins and implementations onto one API, reducing the cost of rewriting code when switching models.
Pourquoi il compte
It turned "swap the model" from rewriting training and serving code into changing a model identifier — a key layer behind the broad reuse of open models.
Caractéristiques clés
- Frameworks
- PyTorch, TensorFlow, JAX
- Coverage
- Text, vision, speech and multimodal
Concepts liés
Architecture Transformer
Remplacer le relais mot à mot par une salle où tous parlent en même temps, pour que les dépendances lointaines soient à un saut
Pré-entraînement et affinage
Apprendre d’abord la langue sur d’immenses corpus non annotés, puis se spécialiser avec peu de données : le paradigme le plus économe en données
Produits comparables
Diffusers
2022Implémentation et planificateur unifiés des modèles de diffusion
Datasets
2020Charger et diffuser des jeux de données en une ligne
LangChain
2022Enchaîner modèles, outils et recherche
NeMo
2019Boîte à outils pour entraîner et personnaliser de grands modèles