Полный текст статьи представлен на английском; заголовок и аннотация локализованы.
ЧТО ЭТО
Kimi is a conversation product Moonshot AI launched in October 2023, distinguished mainly by long-context handling that lets it read a long document before answering. Moonshot AI was founded in Beijing in 2023 by Yang Zhilin and others. Kimi gained notice early on for processing long texts and for web retrieval, serving Chinese-language writing, research organisation and question answering. It is offered directly through web and mobile, and the model itself is not open-source.
Почему стоит запомнить
It turned “read an entire long document in one go” into a headline feature for ordinary users, pushing long context from a technical metric into a perceptible product experience.
Ключевые характеристики
- Context length
- 200K tokens (long-context version)
- Modality
- Text
- Open weights
- No
- Released
- 2023-10
Возможности
Связанные концепции
Архитектура Transformer
Замена эстафеты по одному слову залом, где все говорят сразу, — и дальние зависимости оказываются в одном шаге
Механизм внимания
Каждая позиция может напрямую «видеть» все остальные и динамически распределять внимание по релевантности
Токенизация
Модель читает не символы, а токены — способ разбиения тихо определяет и возможности, и стоимость
Аналоги
Doubao
2023Универсальная диалоговая модель и приложение ByteDance
GLM
2023Китайская универсальная модель, начавшая с авторегрессивного заполнения пропусков
Qwen
2023Семейство с открытыми весами, охватывающее разные размеры и мультимодальные версии
GPT-4o
2024Универсальная модель с нативной мультимодальностью: текст, изображение и звук через один вход
Step
2023Семейство универсальных моделей для мультимодальности и работы на устройстве