Magpatakbo ng AI inference sa sarili ninyong Gcore account

Ano ang nagagawa ng pag-konekta nito para sa iyo

Dinadala ng pag-konekta ng Gcore Everywhere Inference ang iyong mga deployment ng inference — ang mga model endpoint na pinatatakbo mo sa sarili mong Gcore account, at kung ano ang sineserbisyo ng bawat isa — pati ang mga opsyon sa GPU na available para sa iyo patungo sa iyong Zinn® dashboard.

Bago ka magsimula

Isang sarili mong Gcore account, na may naka-enable na Everywhere Inference dito. Ito ay bring-your-own lamang: hindi kami muling nagbebenta ng Everywhere Inference, kaya ang produkto, ang kontrata, at ang bayarin ay sa pagitan mo at ng Gcore, at ang pinatatakbo mo roon ay sinisingil sa iyong Gcore account, hindi sa iyong Zinn® plan.

1. Gawin ang key sa Gcore

Sa Gcore Customer Portal, buksan ang iyong avatar sa kanang itaas, pagkatapos ay Profile → API tokens → Create token. Pangalanan ito, piliin ang Never expire o isang petsa ng pag-expire, at bigyan ito ng tungkulin para sa bawat produktong kailangan nito. Ipinapakita ng Gcore ang token nang isang beses lamang; kopyahin ito agad.

Gumagana ang parehong token para sa bawat produkto ng Gcore na ikinokonekta mo, kaya kung nakakonekta ka na ng isang produkto ng Gcore ay maaari mong i-paste muli ang parehong token — basta't saklaw din ng mga tungkulin nito ang produktong ito. Ang isang token ay hindi maaaring bigyan ng mas mataas na tungkulin kaysa sa mayroon ang sarili mong login.

Bigyan ang token ng tungkulin para sa Cloud. Kailangan mo rin ang numerikal na ID ng Gcore Cloud project kung saan naroroon ang iyong mga deployment — nakaayos ayon sa proyekto ang serbisyo ng inference ng Gcore, kaya hindi maililista ang mga ito ng isang token lamang. Ipinapakita ito para sa proyekto sa seksyon ng Gcore Cloud sa Customer Portal.

2. Ikonekta ito rito

Buksan ang Integrations sa iyong dashboard at piliin ang Connect an account. Piliin ang AI inference bilang grupo at Gcore Everywhere Inference bilang account, punan ang API token at Project ID, at pindutin ang Connect account.

Sinusubukan namin ang iyong ini-paste bago may mai-save. Ang isang key na hindi gumagana ay hindi kailanman iniimbak, at sinasabi sa sagot kung ano ang naging mali rito. Ang isang key na gumagana ay pinananatiling naka-encrypt sa aming secrets vault — hindi kailanman sa aming database — at hindi na muling ipinapakita kailanman, kahit sa iyo.

Ang susunod na mangyayari

• Ang iyong mga deployment at ang mga opsyon sa GPU na iniaalok ng iyong proyekto ay nakalista sa ilalim ng Your own services, na mapupuntahan mula sa button na Open your own services ng koneksyon sa Integrations.
• Ang mga deployment ay tumatakbo at sinisingil sa iyong Gcore account, sa ilalim ng iyong kontrata sa Gcore.

Kung hindi ito kumonekta

Sinasabi nitong hindi naka-enable ang produkto. Valid ang token, ngunit hindi naka-on ang Everywhere Inference para sa Gcore account na iyon — kung kaya't tinatanggihan ng Gcore ang bawat pagbasa. I-enable ito sa Gcore Customer Portal (o hilingin sa Gcore na gawin ito), pagkatapos ay kumonekta muli. Ang isang token na hindi kasama ang Everywhere Inference sa tungkulin nito ay nagdudulot ng parehong pagtanggi; gumawa ng isa na mayroon nito.

Kumokonekta ito ngunit walang inililista. Nakaturo ang Project ID sa isang proyektong walang mga deployment, o sa isang proyektong hindi maabot ng token. Tiyaking ito ang proyekto kung nasaan ang iyong mga deployment.

Sinasabi nitong tinanggihan ang key. Halos palaging isa sa tatlong bagay: isang espasyo o line break na nakopya kasama nito, isang key na nag-expire na, o isang key na binawi o muling ginawa pagkatapos mong kopyahin ito. Gumawa ng bago at i-paste ito muli.

Kumokonekta ito, ngunit may nabigo sa ibang pagkakataon. Nagpapatotoo ang key ngunit kulang sa pahintulot na kailangan ng aksyon. Gumawa ng bagong key na may mga pahintulot na nakalista sa itaas, pagkatapos ay idiskonekta ang lumang koneksyon at ikonekta ang bagong key.

Pagdiskonekta

Buksan ang Integrations, hanapin ang account at pindutin ang Disconnect. Agad nitong binubura ang nakaimbak na key. Ang anumang gumagamit nito ay hihinto sa susunod nitong aksyon, at sasabihin ito ng mga screen na nakadepende rito sa halip na tahimik na mabigo.

Hindi pinawawalang-bisa ng pagdiskonekta ang nagawa na — ang mga record, deployment, o setting na binago namin sa iyong account ay mananatili sa kasalukuyang kalagayan ng mga ito. Kung sa tingin mo ay maaaring na-leak ang mismong key, bawiin din ito sa vendor; inaalis ng pagdiskonekta ang aming kopya, hindi ang sa kanila.