Spouštějte inferenci umělé inteligence na svém vlastním účtu Gcore

Co vám propojení přinese

Propojení služby Gcore Everywhere Inference přenese vaše nasazení pro inferenci — koncové body modelů, které provozujete na svém vlastním účtu Gcore, a to, co každý z nich obsluhuje — a možnosti GPU, které máte k dispozici, do vašeho řídicího panelu Zinn®.

Než začnete

Vlastní účet Gcore s povolenou službou Everywhere Inference. Jedná se výhradně o model přinesení vlastního řešení (BYO): službu Everywhere Inference přeprodáváme, takže produkt, smlouva a faktura jsou mezi vámi a společností Gcore a to, co tam provozujete, je účtováno na váš účet Gcore, nikoli na váš tarif Zinn®.

1. Vytvoření klíče v Gcore

V zákaznickém portálu Gcore otevřete svůj avatar v pravém horním rohu a přejděte na Profil → API tokeny → Vytvořit token. Pojmenujte jej, vyberte možnost Nikdy nevyprší nebo datum vypršení platnosti a přiřaďte mu roli pro každý produkt, který potřebuje. Gcore zobrazí token pouze jednou; v tu chvíli jej zkopírujte.

Stejný token funguje pro každý připojovaný produkt Gcore, takže pokud jste již jeden produkt Gcore propojili, můžete stejný token vložit znovu – za předpokladu, že jeho role pokrývají i tento produkt. Tokenu nelze přiřadit vyšší roli, než jakou má vaše vlastní přihlášení.

Přiřaďte tokenu roli pro Cloud. Dále potřebujete číselné ID projektu Gcore Cloud, ve kterém se vaše nasazení nacházejí – inferenční služba Gcore je organizována podle projektů, takže samotný token je nedokáže vypsat. ID se zobrazuje pro daný projekt v sekci Gcore Cloud v zákaznickém portálu.

2. Propojení zde

Otevřete položku Integrace ve svém řídicím panelu a vyberte možnost Připojit účet. Jako skupinu vyberte AI inference a jako účet vyberte Gcore Everywhere Inference, vyplňte API token a ID projektu a stiskněte tlačítko Připojit účet.

To, co vložite, před jakýmkoliv uložením otestujeme. Klíč, který nefunguje, se nikdy neuloží a odpověď uvede, co s ním bylo v nepořádku. Fungující klíč je uchováván v šifrované podobě v našem trezoru tajných klíčů – nikdy ne v naší databázi – a již se nikdy nezobrazí, a to ani vám.

Co se stane potom

• Vaše nasazení a možnosti GPU, které váš projekt nabízí, jsou uvedeny v části Vaše vlastní služby, ke které se dostanete pomocí tlačítka Otevřít vlastní služby u připojení v sekci Integrace.
• Nasazení běží a jsou fakturována na vašem účtu Gcore v rámci vaší smlouvy se společností Gcore.

Pokud se připojení nezdaří

Zpráva uvádí, že produkt není povolen. Token je platný, ale služba Everywhere Inference není pro daný účet Gcore zapnutá – Gcore v takovém případě odmítne každé čtení. Povolte ji v zákaznickém portálu Gcore (nebo požádejte Gcore o její povolení) a poté se připojte znovu. Token, jehož role nezahrnuje službu Everywhere Inference, vyvolá stejné odmítnutí; vytvořte takový, který ji zahrnuje.

Připojení proběhne, ale nic se nezobrazí. Položka ID projektu ukazuje na projekt bez nasazení nebo na projekt, kam token dosáhnout nemůže. Zkontrolujte, zda se jedná o projekt, ve kterém jsou vaše nasazení.

Zpráva uvádí, že klíč byl odmítnut. Téměř vždy jde o jednu ze tří věcí: s klíčem byla zkopírována mezera nebo zalomení řádku, klíč vypršel nebo byl po zkopírování odvolán či regenerován. Vytvořte nový a vložte jej znovu.

Připojení proběhne, ale něco později selže. Klíč se ověří, ale chybí mu oprávnění, které akce potřebuje. Vytvořte nový klíč s výše uvedenými oprávněními, poté odpojte staré připojení a připojte nový klíč.

Odpojení

Otevřete položku Integrace, vyhledejte účet a stiskněte tlačítko Odpojit. Tím se okamžitě odstraní uložený klíč. Vše, co jej používalo, se při další akci zastaví a obrazovky, které na něm závisely, na to upozorní, namísto toho, aby potichu selhaly.

Odpojení maže pouze vazbu, nikoliv to, co již bylo provedeno – záznamy, nasazení nebo nastavení, která jsme na vašem účtu změnili, zůstávají tak, jak jsou. Pokud se domníváte, že mohl uniknout samotný klíč, odvolejte jej také u poskytovatele; odpojením odstraníte naši kopii, nikoliv tu jejich.