यह पृष्ठ अंग्रेज़ी में प्रस्तुत है; शीर्षक और सारांश का स्थानीयकरण किया गया है।
यह क्या है
Together API is the inference interface offered by Together AI, introduced in 2022, for running open-weights models on managed clusters. Beyond inference it also offers services such as fine-tuning. It addresses the case where a team wants to call open models through an API without building its own GPU cluster.
यह क्यों महत्वपूर्ण है
It let open-weights models be called much like closed APIs, narrowing the gap between open weights and a usable service.
मुख्य विशिष्टताएँ
- Capabilities
- Inference and fine-tuning for open models
- Interface
- OpenAI-style calling convention
संबंधित अवधारणाएँ
अनुमान अनुकूलन एवं सर्विंग
प्रशिक्षण एक बार होता है, अनुमान दिन में अरबों बार — और पहला टोकन एवं थ्रूपुट प्रायः एक-दूसरे से टकराते हैं
प्रशिक्षण एवं अनुमान अधोसंरचना
स्मृति तय करती है कि कितना बड़ा मॉडल प्रशिक्षित हो सकता है, और संचार तय करता है कि कितना समय लगेगा
समान उत्पाद
Replicate
2019API से समुदाय के मॉडल चलाएँ
Ollama
2023एक कमांड से स्थानीय रूप से ओपन मॉडल चलाएँ
Hugging Face Hub
2016खुले मॉडल और डेटासेट का संगम
vLLM
2023उच्च-थ्रूपुट LLM इन्फ़रेंस व सर्विंग इंजन