UC Berkeley (LMSYS)
Die akademische Einrichtung hinter vLLM und der Modell-Arena
Vereinigte Staaten Wissenschaft Open Source
Der vollständige Artikel liegt auf Englisch vor; Titel und Zusammenfassung sind lokalisiert.
WAS ES IST
UC Berkeley is a public research university whose LMSYS and related teams have long worked on open models and inference systems. It led the development of the high-throughput inference engine vLLM and runs a model arena where models compete pairwise and users vote.
Warum es wichtig ist
Through vLLM’s PagedAttention it raised the inference throughput of open models, and through the model arena it provided public evaluation independent of vendor leaderboards — both widely adopted.
Wichtige Meilensteine
- 1868
Founded
- 2023
Released the high-throughput inference engine vLLM