Le texte intégral est présenté en anglais ; le titre et le résumé sont localisés.
CE QUE C'EST
Pangu is the family of foundation models Huawei has offered since 2020, aimed at industry scenarios and spanning language, vision and weather. It is typically offered as a closed service together with Huawei Cloud and related compute platforms. It addresses landing general model capability onto specific industry tasks.
Pourquoi il compte
It is a model family laid out for industry scenarios, whose scientific directions such as weather set it apart from mostly conversation-oriented models.
Caractéristiques clés
- Form
- A family of industry-oriented models
- Directions
- Language, vision, weather and more
Capacités
Concepts liés
Pré-entraînement et affinage
Apprendre d’abord la langue sur d’immenses corpus non annotés, puis se spécialiser avec peu de données : le paradigme le plus économe en données
Architecture Transformer
Remplacer le relais mot à mot par une salle où tous parlent en même temps, pour que les dépendances lointaines soient à un saut