Spouštějte inferenci AI na svém vlastním účtu Gcore

Co vám propojení přinese

Propojení Gcore Everywhere Inference přenese vaše nasazení inferencí — koncové body modelů, které provozujete na svém vlastním účtu Gcore, a to, co každý z nich obsluhuje — a možnosti GPU, které máte k dispozici, přímo do vašeho ovládacího panelu Zinn®.

Než začnete

Vlastní účet Gcore s povolenou službou Everywhere Inference. Tento model funguje výhradně způsobem „přineste si vlastní“: službu Everywhere Inference dále nepřeprodáváme, takže produkt, smlouva i vyúčtování jsou mezi vámi a společností Gcore a to, co tam provozujete, je účtováno na váš účet Gcore, nikoli k vašemu tarifu Zinn®.

1. Vytvořte klíč u Gcore

V portálu Gcore Customer Portal otevřete svůj avatar vpravo nahoře a poté přejděte na Profile → API tokens → Create token. Pojmenujte jej, zvolte Never expire nebo datum vypršení platnosti a přiřaďte mu roli pro každý produkt, který potřebuje. Gcore zobrazí token pouze jednou; v té chvíli si jej zkopírujte.

Stejný token funguje pro každý produkt Gcore, který propojíte, takže pokud jste již jeden produkt Gcore propojili, můžete stejný token vložit znovu — za předpokladu, že jeho role pokrývají i tento produkt. Tokenu nelze přidělit vyšší roli, než jakou má vaše vlastní přihlášení.

Přidělte tokenu roli pro Cloud. Budete také potřebovat číselné ID projektu Gcore Cloud, ve kterém se vaše nasazení nacházejí — inferenční služba Gcore je organizována podle projektů, takže samotný token je nedokáže vypsat. Zobrazuje se u daného projektu v sekci Gcore Cloud v portálu Customer Portal.

2. Propojte jej zde

Otevřete Integrations ve svém ovládacím panelu a zvolte Connect an account. Jako skupinu vyberte AI inference a jako účet Gcore Everywhere Inference, vyplňte API token a Project ID a stiskněte Connect account.

To, co vložíte, otestujeme ještě předtím, než se cokoli uloží. Nefunkční klíč se nikdy neuloží a v odpovědi se dozvíte, co s ním bylo v nepořádku. Funkční klíč je uchováván v šifrované podobě v našem trezoru tajných údajů — nikdy v naší databázi — a již se nikdy znovu nezobrazí, a to ani vám.

Co se stane potom

• Vaše nasazení a možnosti GPU, které váš projekt nabízí, budou uvedeny v sekci Your own services, kam se dostanete pomocí tlačítka Open your own services u daného propojení v nabídce Integrations.
• Nasazení běží a jsou účtována na vašem účtu Gcore v rámci vaší smlouvy se společností Gcore.

Pokud se propojení nezdaří

Zobrazí se zpráva, že produkt není povolen. Token je platný, ale pro daný účet Gcore není zapnuta služba Everywhere Inference — Gcore pak odmítne jakékoli čtení. Povolte ji v portálu Gcore Customer Portal (nebo o to požádejte Gcore) a poté se připojte znovu. Token, jehož role nezahrnuje Everywhere Inference, vyvolá stejné odmítnutí; vytvořte takový, který ji zahrnuje.

Propojí se, ale nic se nevypíše. Project ID odkazuje na projekt bez jakýchkoli nasazení nebo na projekt, ke kterému token nemá přístup. Zkontrolujte, zda se jedná o projekt, ve kterém se vaše nasazení nacházejí.

Zobrazí se zpráva, že klíč byl odmítnut. Téměř vždy jde o jednu ze tří věcí: mezera nebo zalomení řádku zkopírované spolu s ním, klíč, jehož platnost vypršela, nebo klíč, který byl po zkopírování odvolán či znovu vygenerován. Vytvořte nový a vložte jej znovu.

Propojí se, ale později něco selže. Klíč se sice ověří, ale chybí mu oprávnění, které daná akce vyžaduje. Vytvořte nový klíč s výše uvedenými oprávněními, poté staré propojení odpojte a propojte nový klíč.

Odpojení

Otevřete Integrations, vyhledejte daný účet a stiskněte Disconnect. Tím se uložený klíč okamžitě smaže. Cokoli, co jej používalo, se při své další akci zastaví a obrazovky, které na něm závisely, tuto skutečnost oznámí, namísto aby bez vysvětlení selhaly.

Odpojením se nevrátí zpět to, co již bylo provedeno — záznamy, nasazení nebo nastavení, která jsme na vašem účtu změnili, zůstanou beze změny. Pokud máte podezření, že samotný klíč mohl uniknout, odvolejte jej také u poskytovatele; odpojením se odstraní pouze naše kopie, nikoli jejich.