GPU сервер је сервер у облаку са прикљученим NVIDIA или AMD GPU-ом, за AI закључивање, генерисање слика и видео-записа, фино подешавање модела и 3D рендеровање.
Величине и цене
| Величина | GPU | GPU меморија | vCPU | Меморија | NVMe диск | Цена |
|---|
| GPU 16 GB | NVIDIA A16 | 16 GB | 6 | 60 GB | 350 GB | од $479 месечно |
| GPU 32 GB | NVIDIA A16 (две картице) | 32 GB | 12 | 120 GB | 700 GB | од $959 месечно |
| GPU 48 GB | NVIDIA (погледајте испод) | 48 GB | 8+ | 64 GB+ | 500 GB+ | од $1,749 месечно |
| GPU 80 GB | NVIDIA H100 | 80 GB | 20 | 240 GB | 720 GB | од $4,599 месечно |
| GPU 141 GB | NVIDIA H200 | 141 GB | 24 | 240 GB | 720 GB | од $4,659 месечно |
| GPU 192 GB | NVIDIA A40 (четири картице) | 192 GB | 96 | 480 GB | 1,400 GB | од $6,999 месечно |
| GPU 256 GB | AMD Instinct MI325X | 256 GB | 20 | 160 GB | 720 GB | од $3,959 месечно |
Величина од 48 GB је изграђена на NVIDIA RTX 6000 Ada, L40S или A40, у зависности од тога шта је на лагеру на локацији коју изаберете; сваки има најмање наведене вредности. GPU сервери се могу сместити у Северној Америци, Европи, Азији (укључујући Бангалор, Индију, Сингапур и Токио) и Аустралији; екран за поручивање приказује локације које тренутно могу да изграде сваку величину.
Величине од 80 GB, 141 GB и 256 GB се налазе у Северној Америци (Њујорк, Торонто и Атланта) и Европи (Амстердам). Величина од 256 GB користи AMD GPU, који покреће ROCm уместо CUDA: проверите да ли га ваш софтвер подржава. Цене су приказане у вашој валути приликом поручивања. Други GPU-ови (NVIDIA A100 и B200, као и сервери са осам GPU-ова) доступни су на захтев: отворите тикет и обавестићемо вас када будемо могли да га конфигуришемо.
Месечно или по сату
- Месечно: једна цена месечно, аутоматски се обнавља.
- По сату: сваки започети сат наплаћује се са вашег биланса, а месец никада не кошта више од месечне цене. Обришите сервер када завршите посао и наплата престаје.
Ваш лимит потрошње се примењује, уз упозорење на 80% и на 100%.
Поручивање
- Отворите Сервери и изаберите Нови сервер.
- Изаберите GPU сервери, а затим величину.
- Изаберите локацију. Приказане су само локације које тренутно могу да креирају ту величину.
- Изаберите оперативни систем, свој SSH кључ и опцију месечно или по сату, а затим поручите.
Управљање
Са странице сервера можете га покренути, зауставити и рестартовати, поново инсталирати, правити снимке стања, подесити његов реверзни DNS, прегледати графиконе и обрисати га. Покрените nvidia-smi након првог покретања да бисте видели картицу; ако недостаје, инсталирајте NVIDIA драјвер за свој оперативни систем.
Чим се не може платити
Пробни кредит од $10 не може се искористити за плаћање GPU сервера. DDoS заштита још увек није доступна за GPU сервере.