- 7
- أغلب الأقسام على GPU واحد
- 24
- أقسام على نقطة نهاية p4d واحدة
- 17 ثانية
- تُضاف إلى التجهيز في الاختبار
- لمن هو
- فرق تستضيف نماذج
- أين يعمل
- نقاط نهاية SageMaker AI
- متى
- متاح الآن
أهم النقاط
- الأعطال تبقى داخل قسمها
- عرض نطاق ذاكرة مخصص لكل قسم
- شريحة بدلا من GPU كاملة
- انشر نماذج أكثر من عدد وحدات GPU
أين تستخدمه
- استضافة عدة نماذجضع كل نموذج في قسم GPU خاص به
- نماذج صغيرة وحركة مرور عاليةشغّل نسخا أكثر من نموذج صغير
- تتبع التكلفةاربط تكلفة GPU بكل نموذج أو فريق
ما الذي تفعله
يمكن لـ Amazon SageMaker AI الآن تقسيم وحدة GPU واحدة إلى أقسام منفصلة، لكل منها حصته من الحوسبة والذاكرة، بحيث يمكن تشغيل عدة نماذج على مسرّع واحد.
لمن هي
الفرق التي تستضيف نماذج الذكاء الاصطناعي على نقاط نهاية AWS وتريد استخدام وحدات GPU الخاصة بها بشكل أكمل.
السعر وأين تجربها
لا يذكر المنشور تكلفة ذلك. وهو يعمل على نقاط نهاية SageMaker AI التي تستخدم مكونات الاستدلال، لا على نقاط النهاية ذات النموذج الواحد أو بلا خادم.
كُتب بالذكاء الاصطناعي اعتمادًا على المصدر أعلاه. إن بدا شيء غير دقيق، فالمصدر هو المرجع.
