Futtasson MI-következtetést saját Gcore-fiókjában

Milyen előnyökkel jár a csatlakoztatás az Ön számára

A Gcore Everywhere Inference csatlakoztatása elhozza az Ön következtetési telepítéseit (inference deployments) — azokat a modelvégpontokat, amelyeket a saját Gcore fiókjában futtat, valamint azok kiszolgálási adatait — és az Ön számára elérhető GPU-lehetőségeket közvetlenül a Zinn® vezérlőpultjára.

Mielőtt elkezdené

Egy saját Gcore fiók szükséges, amelyen engedélyezve van az Everywhere Inference. Ez kizárólag saját fiókkal működik (bring-your-own): nem értékesítjük tovább az Everywhere Inference szolgáltatást, így a termék, a szerződés és a számla Ön és a Gcore között jön létre, és az ott futtatott elemek díja az Ön Gcore fiókját terheli, nem a Zinn® csomagját.

1. Hozza létre a kulcsot a Gcore felületén

A Gcore Customer Portal felületén nyissa meg a profilképét a jobb felső sarokban, majd lépjen a Profile → API tokens → Create token menüpontra. Nevezze el, válassza a Never expire lehetőséget vagy egy lejárati dátumot, és rendeljen hozzá szerepkört minden olyan termékhez, amelyhez szükséges. A Gcore csak egyszer jeleníti meg a tokent; ekkor másolja ki.

Ugyanaz a token minden olyan Gcore termékhez használható, amelyet csatlakoztat, így ha már csatlakoztatott egy Gcore terméket, beillesztheti ugyanazt a tokent — feltéve, hogy a szerepkörei erre a termékre is kiterjednek. Egy tokennek nem adható magasabb jogosultsági szerepkör, mint amivel a saját bejelentkezése rendelkezik.

Adjon a tokennek egy szerepkört a Cloud termékhez. Szüksége lesz a Gcore Cloud projekt numerikus azonosítójára (ID) is, amelyben a telepítései találhatók — a Gcore következtetési szolgáltatása projektek szerint van rendezve, így a token önmagában nem képes kilistázni őket. Ez a Customer Portal Gcore Cloud szakaszában látható a projekt mellett.

2. Csatlakoztassa itt

Nyissa meg az Integrations menüpontot a vezérlőpulton, és válassza a Connect an account lehetőséget. Válassza az AI inference csoportot és a Gcore Everywhere Inference fiókot, töltse ki az API token és a Project ID mezőket, majd nyomja meg a Connect account gombot.

Mielőtt bármi mentésre kerülne, teszteljük a beillesztett adatokat. A nem működő kulcsot soha nem tároljuk, és a válaszüzenet megjelöli a hibát. A működő kulcsot titkosítva őrizzük a titkos kulcstárunkban — soha nem az adatbázisunkban —, és soha többé nem jelenítjük meg, még Önnek sem.

Mi történik ezután

• A telepítései és a projektje által kínált GPU-lehetőségek a Your own services alatt jelennek meg, amely a kapcsolat Open your own services gombjával érhető el az Integrations oldalon.
• A telepítések az Ön Gcore fiókjában futnak és ott kerülnek számlázásra, a Gcore vállalattal kötött szerződése alapján.

Ha a csatlakozás sikertelen

Azt jelzi, hogy a termék nincs engedélyezve. A token érvényes, de az Everywhere Inference nincs bekapcsolva az adott Gcore fiókhoz — a Gcore ilyenkor minden olvasási kérést elutasít. Engedélyezze a Gcore Customer Portal felületén (vagy kérje a Gcore ügyfélszolgálatát erre), majd csatlakozzon újra. Az a token, amelynek szerepköre nem tartalmazza az Everywhere Inference hozzáférést, ugyanezt az elutasítást eredményezi; hozzon létre egy olyat, amely tartalmazza.

Csatlakozik, de semmit sem listáz. A Project ID olyan projektre mutat, amelyben nincsenek telepítések, vagy olyanra, amelyet a token nem ér el. Ellenőrizze, hogy valóban az a projekt van-e megadva, amelyben a telepítései találhatók.

Azt jelzi, hogy a kulcsot elutasították. Ez szinte mindig a következő három ok egyike: egy szóközt vagy sortörést másolt be vele együtt, a kulcs lejárt, vagy a kulcsot visszavonták, illetve újragenerálták a kimásolása után. Hozzon létre egy újat, és illessze be ismét.

Csatlakozik, de később hiba lép fel. A kulcs hitelesítése sikeres, de hiányzik egy olyan engedély, amely a művelethez szükséges. Hozzon létre egy új kulcsot a fent felsorolt engedélyekkel, majd bontsa le a régi kapcsolatot, és csatlakoztassa az új kulcsot.

Csatlakozás bontása

Nyissa meg az Integrations menüpontot, keresse meg a fiókot, és nyomja meg a Disconnect gombot. Ez azonnal törli a tárolt kulcsot. Minden olyan folyamat, amely azt használta, a következő műveleténél leáll, és az attól függő képernyők ezt egyértelműen jelezni fogják, ahelyett hogy észrevétlenül hibásan működnének.

A kapcsolat bontása nem vonja vissza azt, ami már megtörtént — a fiókjában általunk módosított rekordok, telepítések vagy beállítások változatlanok maradnak. Ha úgy gondolja, hogy maga a kulcs kiszivároghatott, vonja vissza a szolgáltatónál is; a kapcsolat bontása a mi példányunkat távolítja el, nem az övékét.