Toàn văn của trang này được trình bày bằng tiếng Anh; tiêu đề và phần dẫn đã được bản địa hóa.
NÓ LÀ GÌ
Baichuan is an open-weight model series Baichuan AI has released since April 2023. The company was founded in Beijing in 2023 by Wang Xiaochuan. Baichuan 2 ships in sizes such as 7B and 13B, pretrained mainly bilingually for Chinese and English and aimed at Chinese question answering, writing and knowledge tasks. Base models and chat versions are both released, with weights offered under an open licence. The series targets Chinese long-tail scenarios and is widely used by domestic developers for secondary training and local deployment.
Vì sao đáng ghi nhớ
It centred its open-weight models on Chinese long-tail scenarios and used small-to-mid sizes to lower the barrier to local deployment, making it a common Chinese base in domestic developers’ hands.
Thông số chính
- Parameters
- 7B / 13B (Baichuan 2)
- Modality
- Text
- Open weights
- Yes
- Released
- 2023-04
Năng lực liên quan
Khái niệm liên quan
Kiến trúc Transformer
Thay cách truyền từng từ bằng một phòng họp nơi mọi từ cùng lên tiếng, để phụ thuộc xa chỉ còn cách một bước
Tiền huấn luyện và tinh chỉnh
Học ngôn ngữ trước từ lượng lớn văn bản không nhãn, rồi chuyên biệt hóa với ít dữ liệu — mô hình tiết kiệm dữ liệu nhất của AI hiện đại
Token hóa
Mô hình không đọc ký tự mà đọc token; cách tách từ âm thầm quyết định năng lực và chi phí
Sản phẩm cùng loại
Qwen
2023Dòng trọng số mở với nhiều kích cỡ và bản đa phương thức
Yi
2023Mô hình trọng số mở song ngữ Trung–Anh, có bản ngữ cảnh siêu dài
GLM
2023Mô hình phổ thông tiếng Trung khởi đầu bằng tiền huấn luyện điền khuyết tự hồi quy
DeepSeek-V3
2024MoE trọng số mở 671B tham số, chỉ kích hoạt 37B mỗi token
ERNIE
2019Mô hình tiếng Trung khởi đầu bằng tiền huấn luyện tăng cường tri thức, bản đầu tiên tiêu biểu