UC Berkeley (LMSYS)
vLLM とモデルアリーナを生んだ学術機関
アメリカ合衆国 学術機関 オープンソース
本ページの本文は英語で提供されています。タイトルと導入は日本語化されています。
これは何か
UC Berkeley is a public research university whose LMSYS and related teams have long worked on open models and inference systems. It led the development of the high-throughput inference engine vLLM and runs a model arena where models compete pairwise and users vote.
なぜ重要なのか
Through vLLM’s PagedAttention it raised the inference throughput of open models, and through the model arena it provided public evaluation independent of vendor leaderboards — both widely adopted.
主なマイルストーン
- 1868
Founded
- 2023
Released the high-throughput inference engine vLLM