يُعرض النص الكامل باللغة الإنجليزية؛ وقد تمت ترجمة العنوان والملخص.
ما هو
Together API is the inference interface offered by Together AI, introduced in 2022, for running open-weights models on managed clusters. Beyond inference it also offers services such as fine-tuning. It addresses the case where a team wants to call open models through an API without building its own GPU cluster.
لماذا يستحق التذكّر
It let open-weights models be called much like closed APIs, narrowing the gap between open weights and a usable service.
المواصفات الأساسية
- Capabilities
- Inference and fine-tuning for open models
- Interface
- OpenAI-style calling convention
المفاهيم ذات الصلة
تحسين الاستدلال وتقديم الخدمة
يحدث التدريب مرة واحدة، أما الاستدلال فمليارات المرات يوميًا — وسرعة التوكن الأول والإنتاجية تتعارضان غالبًا
البنية التحتية للتدريب والاستدلال
تحدد الذاكرة حجم النموذج القابل للتدريب، ويحدد الاتصال المدة التي يستغرقها — ونادرًا ما تكون الحوسبة الخام هي عنق الزجاجة
منتجات منافسة
Replicate
2019تشغيل نماذج المجتمع عبر واجهة برمجية
Ollama
2023تشغيل النماذج المفتوحة محليًا بأمر واحد
Hugging Face Hub
2016سوق مفتوح للنماذج ومجموعات البيانات
vLLM
2023محرّك استدلال وخدمة عالي الإنتاجية للنماذج اللغوية