שרת GPU הוא שרת ענן המחובר ל-GPU של NVIDIA או של AMD, עבור היקש בינה מלאכותית, יצירת תמונות ווידאו, כוונון עדין של מודלים ועיבוד תלת-ממד.
גדלים ומחירים
| גודל | GPU | זיכרון GPU | vCPU | זיכרון | כונן NVMe | מחיר |
|---|
| GPU 16 GB | NVIDIA A16 | 16 GB | 6 | 60 GB | 350 GB | החל מ-$479 לחודש |
| GPU 32 GB | NVIDIA A16 (שני כרטיסים) | 32 GB | 12 | 120 GB | 700 GB | החל מ-$959 לחודש |
| GPU 48 GB | NVIDIA (ראו להלן) | 48 GB | 8+ | 64 GB+ | 500 GB+ | החל מ-$1,749 לחודש |
| GPU 80 GB | NVIDIA H100 | 80 GB | 20 | 240 GB | 720 GB | החל מ-$4,599 לחודש |
| GPU 141 GB | NVIDIA H200 | 141 GB | 24 | 240 GB | 720 GB | החל מ-$4,659 לחודש |
| GPU 192 GB | NVIDIA A40 (ארבעה כרטיסים) | 192 GB | 96 | 480 GB | 1,400 GB | החל מ-$6,999 לחודש |
| GPU 256 GB | AMD Instinct MI325X | 256 GB | 20 | 160 GB | 720 GB | החל מ-$3,959 לחודש |
הגודל של 48 GB מבוסס על NVIDIA RTX 6000 Ada, L40S או A40, בהתאם למה שנמצא במלאי במיקום שתבחרו; לכל אחד מהם יש לפחות את הנתונים המוצגים. ניתן למקם שרתי GPU בצפון אמריקה, באירופה, באסיה (כולל בנגלור שבהודו, סינגפור וטוקיו) ובאוסטרליה; מסך ההזמנה מציג את המיקומים שבהם ניתן להקים כל גודל כעת.
הגדלים 80 GB, 141 GB ו-256 GB מוקמים בצפון אמריקה (ניו יורק, טורונטו ואטלנטה) ובאירופה (אמסטרדם). הגודל 256 GB משתמש ב-GPU של AMD, המריץ ROCm במקום CUDA: בדקו שהתוכנה שלכם תומכת בכך. המחירים מוצגים במטבע שלכם בעת ביצוע ההזמנה. מעבדי GPU אחרים (NVIDIA A100 ו-B200, ושרתים עם שמונה מעבדי GPU) זמינים לפי בקשה: פתחו פנייה ואנו נעדכן אתכם מתי נוכל להקים אחד.
לפי חודש או לפי שעה
מגבלת ההוצאות שלכם חלה, עם התראה ב-80% וב-100%.
הזמנת שרת
- פתחו את שרתים ובחרו ב-שרת חדש.
- בחרו ב-שרתי GPU, ולאחר מכן בגודל.
- בחרו מיקום. מוצגים רק מיקומים שיכולים להקים גודל זה כעת.
- בחרו את מערכת ההפעלה, את מפתח ה-SSH שלכם ואת אופן החיוב (חודשי או לפי שעה), ולאחר מכן בצעו הזמנה.
ניהול השרת
מדף השרת תוכלו להפעיל, לעצור ולהפעיל אותו מחדש, להתקין אותו מחדש, ליצור תמונות מצב (snapshots), להגדיר את ה-DNS ההופכי שלו, לצפות בגרפים שלו ולמחוק אותו. הריצו את nvidia-smi לאחר ההפעלה הראשונה כדי לראות את הכרטיס; אם הוא חסר, התקינו את מנהל ההתקן של NVIDIA עבור מערכת ההפעלה שלכם.
במה לא ניתן לשלם
אשראי הניסיון בסך $10 אינו יכול לשמש לתשלום עבור שרת GPU. הגנת DDoS אינה מוצעת עדיין בשרתי GPU.