UC Berkeley (LMSYS)
Học viện đứng sau vLLM và đấu trường mô hình
Hoa Kỳ Tổ chức học thuật Mã nguồn mở
Toàn văn của trang này được trình bày bằng tiếng Anh; tiêu đề và phần dẫn đã được bản địa hóa.
NÓ LÀ GÌ
UC Berkeley is a public research university whose LMSYS and related teams have long worked on open models and inference systems. It led the development of the high-throughput inference engine vLLM and runs a model arena where models compete pairwise and users vote.
Vì sao nó quan trọng
Through vLLM’s PagedAttention it raised the inference throughput of open models, and through the model arena it provided public evaluation independent of vendor leaderboards — both widely adopted.
Cột mốc quan trọng
- 1868
Founded
- 2023
Released the high-throughput inference engine vLLM