Hunyuan
Семейство универсальных моделей Tencent с открытыми весами
Полный текст статьи представлен на английском; заголовок и аннотация локализованы.
ЧТО ЭТО
Hunyuan is Tencent’s general model family, introduced from September 2023 and covering dialogue, reasoning and multimodality. Tencent offers commercial interfaces through its cloud while releasing some sizes, such as 7B and 13B, as open weights for the community to download and fine-tune. The family also includes versions such as Hunyuan-Vision that accept image input. It is integrated widely across Tencent’s office, search and cloud products, one of the Chinese big-tech lines that serves both closed services and open releases.
Почему стоит запомнить
It keeps open-weight versions alongside a big-tech commercial model, making “one family you can call in the cloud or run locally” routine — Hunyuan is a typical sample of that pattern.
Ключевые характеристики
- Parameters
- Includes 7B, 13B and other open sizes (some versions)
- Modality
- Text, image in (Hunyuan-Vision); text out
- Open weights
- Yes (some versions)
- Released
- 2023-09
Возможности
Генерация текста
Продолжает текст слово за словом
Диалог и следование инструкциям
Понимать намерение по ходу диалога и выполнять его
Рассуждение и цепочка мыслей
Разбить трудную задачу на промежуточные шаги
Вопросы и ответы с поиском
Сначала находит свидетельства, затем отвечает по ним
Связанные концепции
Архитектура Transformer
Замена эстафеты по одному слову залом, где все говорят сразу, — и дальние зависимости оказываются в одном шаге
Предобучение и дообучение
Сначала выучить язык на огромных неразмеченных корпусах, затем специализироваться на малых данных — самый экономный по данным подход в современном ИИ
Механизм внимания
Каждая позиция может напрямую «видеть» все остальные и динамически распределять внимание по релевантности
Аналоги
ERNIE
2019Китайская модель, начавшая с обогащённого знаниями предобучения, ранняя заметная версия
GLM
2023Китайская универсальная модель, начавшая с авторегрессивного заполнения пропусков
Qwen
2023Семейство с открытыми весами, охватывающее разные размеры и мультимодальные версии
Doubao
2023Универсальная диалоговая модель и приложение ByteDance
Pangu
2020Семейство базовых моделей Pangu от Huawei