Toàn văn của trang này được trình bày bằng tiếng Anh; tiêu đề và phần dẫn đã được bản địa hóa.
NÓ LÀ GÌ
Kimi is a conversation product Moonshot AI launched in October 2023, distinguished mainly by long-context handling that lets it read a long document before answering. Moonshot AI was founded in Beijing in 2023 by Yang Zhilin and others. Kimi gained notice early on for processing long texts and for web retrieval, serving Chinese-language writing, research organisation and question answering. It is offered directly through web and mobile, and the model itself is not open-source.
Vì sao đáng ghi nhớ
It turned “read an entire long document in one go” into a headline feature for ordinary users, pushing long context from a technical metric into a perceptible product experience.
Thông số chính
- Context length
- 200K tokens (long-context version)
- Modality
- Text
- Open weights
- No
- Released
- 2023-10
Năng lực liên quan
Khái niệm liên quan
Kiến trúc Transformer
Thay cách truyền từng từ bằng một phòng họp nơi mọi từ cùng lên tiếng, để phụ thuộc xa chỉ còn cách một bước
Cơ chế chú ý (Attention)
Mọi vị trí đều có thể nhìn thẳng vào mọi vị trí khác và phân bổ chú ý theo mức liên quan
Token hóa
Mô hình không đọc ký tự mà đọc token; cách tách từ âm thầm quyết định năng lực và chi phí
Sản phẩm cùng loại
Doubao
2023Mô hình hội thoại phổ thông và ứng dụng của ByteDance
GLM
2023Mô hình phổ thông tiếng Trung khởi đầu bằng tiền huấn luyện điền khuyết tự hồi quy
Qwen
2023Dòng trọng số mở với nhiều kích cỡ và bản đa phương thức
GPT-4o
2024Mô hình đa phương thức gốc, xử lý văn bản, hình ảnh và âm thanh qua một cửa vào
Step
2023Dòng mô hình phổ thông hướng tới đa phương thức và chạy trên thiết bị