GLM
Китайская универсальная модель, начавшая с авторегрессивного заполнения пропусков
Полный текст статьи представлен на английском; заголовок и аннотация локализованы.
ЧТО ЭТО
GLM is the general language-model series from Zhipu AI, its name standing for General Language Model and using an autoregressive blank-infilling pretraining objective. GLM-4 arrived in 2024, aimed at dialogue, function calling and agent scenarios and offering general generation in Chinese and other languages. The company grew out of Tsinghua University’s knowledge-engineering lab and was founded in 2019. The GLM family includes commercial versions plus some lightweight open ones, and is widely integrated into Chinese enterprise applications and agent frameworks.
Почему стоит запомнить
It started from a blank-infilling pretraining objective different from the standard causal language model, and was early to build function calling and agent abilities into a Chinese model — one of China’s representatives of the open-plus-commercial route.
Ключевые характеристики
- Architecture
- GLM (autoregressive blank infilling)
- Modality
- Text
- Open weights
- No (commercial version)
- Released
- 2023-03
Возможности
Диалог и следование инструкциям
Понимать намерение по ходу диалога и выполнять его
Генерация текста
Продолжает текст слово за словом
Рассуждение и цепочка мыслей
Разбить трудную задачу на промежуточные шаги
Вызов инструментов и функций
Пусть модель выберет API и заполнит аргументы
Связанные концепции
Архитектура Transformer
Замена эстафеты по одному слову залом, где все говорят сразу, — и дальние зависимости оказываются в одном шаге
Предобучение и дообучение
Сначала выучить язык на огромных неразмеченных корпусах, затем специализироваться на малых данных — самый экономный по данным подход в современном ИИ
Промптинг и выравнивание
Сделать модель полезной, честной и безопасной труднее, чем просто увеличить её
Аналоги
ERNIE
2019Китайская модель, начавшая с обогащённого знаниями предобучения, ранняя заметная версия
Qwen
2023Семейство с открытыми весами, охватывающее разные размеры и мультимодальные версии
Baichuan
2023Универсальная модель с открытыми весами для китайского языка
Doubao
2023Универсальная диалоговая модель и приложение ByteDance
Kimi
2023Китайский чат-ассистент, известный работой с длинным контекстом
Hunyuan
2023Семейство универсальных моделей Tencent с открытыми весами
MiniMax-M
2025Модель рассуждений с открытыми весами, гибридным вниманием и контекстом в миллион токенов
Step
2023Семейство универсальных моделей для мультимодальности и работы на устройстве