Полный текст статьи представлен на английском; заголовок и аннотация локализованы.
ЧТО ЭТО
Pangu is the family of foundation models Huawei has offered since 2020, aimed at industry scenarios and spanning language, vision and weather. It is typically offered as a closed service together with Huawei Cloud and related compute platforms. It addresses landing general model capability onto specific industry tasks.
Почему стоит запомнить
It is a model family laid out for industry scenarios, whose scientific directions such as weather set it apart from mostly conversation-oriented models.
Ключевые характеристики
- Form
- A family of industry-oriented models
- Directions
- Language, vision, weather and more
Возможности
Связанные концепции
Предобучение и дообучение
Сначала выучить язык на огромных неразмеченных корпусах, затем специализироваться на малых данных — самый экономный по данным подход в современном ИИ
Архитектура Transformer
Замена эстафеты по одному слову залом, где все говорят сразу, — и дальние зависимости оказываются в одном шаге