Pokrenite AI inferenciju na vlastitom Gcore računu

Što vam povezivanje omogućuje

Povezivanjem usluge Gcore Everywhere Inference u vašu nadzornu ploču Zinn® donosi vaše implementacije zaključivanja — krajnje točke modela koje pokrećete na vlastitom Gcore računu i ono što svaka od njih poslužuje — te opcije grafičkih procesora (GPU) koje su vam dostupne.

Prije nego što počnete

Vlastiti Gcore račun s omogućenom uslugom Everywhere Inference. Ovo je isključivo model donošenja vlastitog računa: mi ne preprodajemo uslugu Everywhere Inference, stoga su proizvod, ugovor i račun između vas i Gcore, a ono što tamo pokrećete naplaćuje se vašem Gcore računu, a ne vašem Zinn® planu.

1. Izradite ključ na Gcore

U korisničkom portalu Gcore otvorite svoj avatar u gornjem desnom kutu, zatim Profil → API tokeni → Izradi token. Imenujte ga, odaberite Nikad ne ističe ili datum isteka te mu dodijelite ulogu za svaki proizvod koji mu je potreban. Gcore prikazuje token samo jednom; kopirajte ga tada.

Isti token funkcionira za svaki Gcore proizvod koji povežete, pa ako ste već povezali jedan Gcore proizvod, možete ponovno zalijepiti isti token — pod uvjetom da njegove uloge pokrivaju i ovaj proizvod. Tokenu se ne može dodijeliti viša uloga nego što ima vaša vlastita prijava.

Dodijelite tokenu ulogu za Cloud. Također vam je potreban numerički ID projekta Gcore Cloud u kojem žive vaše implementacije — Gcore usluga zaključivanja organizirana je po projektima, tako da samo token ih ne može izlistati. Prikazan je za projekt u odjeljku Gcore Cloud korisničkog portala.

2. Povežite ga ovdje

Otvorite Integracije u svojoj nadzornoj ploči i odaberite Poveži račun. Odaberite AI zaključivanje kao grupu i Gcore Everywhere Inference kao račun, ispunite API token i ID projekta te pritisnite Poveži račun.

Testiramo ono što zalijepite prije nego što se bilo što spremi. Ključ koji ne radi nikada se ne pohranjuje, a odgovor govori što je s njim bilo u redu. Ključ koji radi čuva se šifriran u našem trezoru tajni — nikada u našoj bazi podataka — i nikada se više ne prikazuje, čak ni vama.

Što se događa sljedeće

• Vaše implementacije i opcije grafičkih procesora koje vaš projekt nudi navedeni su pod Vaše vlastite usluge, kojima se pristupa putem gumba Otvorite vlastite usluge veze na Integracije.
• Implementacije se izvode i naplaćuju na vašem Gcore računu, prema vašem ugovoru s Gcore.

Ako se ne poveže

Piše da proizvod nije omogućen. Token je važeći, ali Everywhere Inference nije uključen za taj Gcore račun — Gcore tada odbija svako čitanje. Omogućite ga u korisničkom portalu Gcore (ili zatražite Gcore da to učini), a zatim se ponovno povežite. Token čija uloga ne uključuje Everywhere Inference proizvodi isto odbijanje; izradite onaj koji to čini.

Povezuje se, ali ništa ne prikazuje. ID projekta usmjeren je na projekt bez implementacija ili na projekt kojem token ne može pristupiti. Provjerite je li to projekt u kojem se nalaze vaše implementacije.

Kaže da je ključ odbijen. Skoro uvijek jedno od troje: razmak ili prijelom retka kopirani s njim, ključ koji je istekao ili ključ koji je opozvan ili ponovno generiran nakon što ste ga kopirali. Izradite novi i ponovno ga zalijepite.

Povezuje se, ali nešto kasnije ne uspijeva. Ključ se provjerava autentičnost, ali nedostaje mu dopuštenje koje je radnji potrebno. Izradite novi ključ s dopuštenjima navedenim gore, zatim odspojite staru vezu i povežite novi ključ.

Prekid veze

Otvorite Integracije, pronađite račun i pritisnite Odspoji. Time se pohranjeni ključ odmah brije. Sve što ga je koristilo zaustavlja se pri sljedećoj radnji, a zasloni koji su o njemu ovisili to govore umjesto da tiho propadaju.

Prekid veze ne poništava ono što je već učinjeno — zapisi, implementacije ili postavke koje smo promijenili na vašem računu ostaju kakvi jesu. Ako mislite da je sam ključ možda procurio, opozovite ga i kod dobavljača; odspajanjem se uklanja naša kopija, a ne njihova.