يُعرض النص الكامل باللغة الإنجليزية؛ وقد تمت ترجمة العنوان والملخص.
ما هو
NeMo is an open-source toolkit from NVIDIA for building, training and customising large models across language, speech and multimodal directions. It works closely with NVIDIA GPUs and acceleration libraries, providing training and inference components. It addresses the difficulty of assembling flows and configurations for large-scale training and fine-tuning on GPU clusters.
لماذا يستحق التذكّر
It ties the training and customisation flow to NVIDIA’s hardware and software stack, an entry point for that compute on the model-engineering side.
المواصفات الأساسية
- Directions
- Language, speech, multimodal
- Use
- Training, fine-tuning and inference
المفاهيم ذات الصلة
البنية التحتية للتدريب والاستدلال
تحدد الذاكرة حجم النموذج القابل للتدريب، ويحدد الاتصال المدة التي يستغرقها — ونادرًا ما تكون الحوسبة الخام هي عنق الزجاجة
تحسين الاستدلال وتقديم الخدمة
يحدث التدريب مرة واحدة، أما الاستدلال فمليارات المرات يوميًا — وسرعة التوكن الأول والإنتاجية تتعارضان غالبًا