Izvršite AI inferencu na sopstvenom Gcore nalogu

Šta vam ovo povezivanje omogućava

Povezivanje servisa Gcore Everywhere Inference unosi vaše implementacije zaključivanja — krajnje tačke modela koje pokrećete na sopstvenom Gcore nalogu i ono što svaka od njih pruža — kao i opcije za GPU koje su vam dostupne na vašoj Zinn® kontrolnoj tabli.

Pre nego što počnete

Sopstveni Gcore nalog sa uključenom opcijom Everywhere Inference. Ovo funkcioniše isključivo po principu „donesi sopstveni nalog“: mi ne preprodajemo Everywhere Inference, tako da su proizvod, ugovor i račun isključivo između vas i kompanije Gcore, a ono što tamo pokrećete naplaćuje se preko vašeg Gcore naloga, a ne preko vašeg Zinn® paketa.

1. Kreirajte ključ na platformi Gcore

U korisničkom portalu Gcore otvorite svoj avatar u gornjem desnom uglu, a zatim izaberite Profile → API tokens → Create token (Profil → API tokeni → Kreiraj token). Dajte mu naziv, izaberite opciju Never expire (Nikada ne ističe) ili datum isteka, i dodelite mu ulogu za svaki proizvod koji mu je potreban. Gcore prikazuje token samo jednom; kopirajte ga u tom trenutku.

Isti token radi za svaki Gcore proizvod koji povežete, tako da ako ste već povezali jedan Gcore proizvod, možete ponovo nalepiti isti token — pod uslovom da njegove uloge obuhvataju i ovaj proizvod. Tokenu se ne može dodeliti viša uloga od one koju ima vaša prijava.

Dodelite tokenu ulogu za Cloud. Takođe vam je potreban numerički ID projekta Gcore Cloud u kojem se nalaze vaše implementacije — Gcore usluga zaključivanja je organizovana po projektima, tako da sam token ne može da ih izlista. On je prikazan za projekat u odeljku Gcore Cloud u korisničkom portalu.

2. Povežite ga ovde

Otvorite opciju Integrations (Integracije) na kontrolnoj tabli i izaberite Connect an account (Poveži nalog). Izaberite AI inference (AI zaključivanje) kao grupu i Gcore Everywhere Inference kao nalog, unesite API token i Project ID (ID projekta), pa pritisnite Connect account (Poveži nalog).

Testiramo ono što nalepite pre nego što se bilo šta sačuva. Ključ koji ne radi nikada se ne čuva, a u odgovoru se navodi šta nije u redu sa njim. Ključ koji radi čuva se šifrovan u našem trezoru tajni — nikada u našoj bazi podataka — i nikada se više ne prikazuje, čak ni vama.

Šta se dešava dalje

• Vaše implementacije i opcije za GPU koje vaš projekat nudi navedeni su u odeljku Your own services (Vaše sopstvene usluge), do kojeg se dolazi preko dugmeta Open your own services (Otvori sopstvene usluge) za tu vezu u odeljku Integrations (Integracije).
• Implementacije se pokreću i naplaćuju na vašem Gcore nalogu, u skladu sa vašim ugovorom sa kompanijom Gcore.

Ako se povezivanje ne ostvari

Piše da proizvod nije omogućen. Token je važeći, ali Everywhere Inference nije uključen za taj Gcore nalog — Gcore u tom slučaju odbija svako čitanje. Omogućite ga u korisničkom portalu Gcore (ili zatražite od kompanije Gcore da to učini), a zatim se ponovo povežite. Token čija uloga ne uključuje Everywhere Inference daje isto odbijanje; kreirajte onaj koji je uključuje.

Povezuje se, ali ne prikazuje ništa. Polje Project ID (ID projekta) pokazuje na projekat bez implementacija ili na projekat kojem token ne može da pristupi. Proverite da li je to projekat u kojem se nalaze vaše implementacije.

Piše da je ključ odbijen. Skoro uvek je u pitanju jedna od tri stvari: razmak ili prelom reda kopirani zajedno sa njim, ključ čiji je rok istekao, ili ključ koji je opozvan ili ponovo generisan nakon što ste ga kopirali. Kreirajte novi i ponovo ga nalepite.

Povezuje se, ali nešto kasnije ne radi. Ključ vrši autentifikaciju, ali nema dozvolu koja je potrebna za radnju. Kreirajte novi ključ sa dozvolama navedenim iznad, a zatim prekinite vezu sa starom vezom i povežite novi ključ.

Prekidanje veze

Otvorite Integrations (Integracije), pronađite nalog i pritisnite Disconnect (Prekini vezu). Time se sačuvani ključ odmah briše. Sve što ga je koristilo prestaje sa radom pri sledećoj radnji, a ekrani koji su zavisili od njega to i prikazuju umesto da tiho otkažu.

Prekidanje veze ne poništava ono što je već urađeno — zapisi, implementacije ili podešavanja koja smo promenili na vašem nalogu ostaju kakvi jesu. Ako mislite da je sam ključ možda procureo, opozovite ga i kod dobavljača; prekidanjem veze uklanja se naša kopija, a ne njihova.