Rulați inferența AI pe propriul cont Gcore

Ce vă aduce această conexiune

Conectarea Gcore Everywhere Inference aduce în panoul de control Zinn® implementările dumneavoastră de inferență — punctele finale ale modelelor pe care le rulați pe propriul cont Gcore și ceea ce servește fiecare — și opțiunile GPU disponibile pentru dumneavoastră.

Înainte de a începe

Un cont Gcore propriu, cu Everywhere Inference activat pe acesta. Aceasta este o opțiune exclusivă de tip aduceți propriul cont: nu revindem Everywhere Inference, așa că produsul, contractul și factura sunt între dumneavoastră și Gcore, iar ceea ce rulați acolo este taxat în contul dumneavoastră Gcore, nu în planul dumneavoastră Zinn®.

1. Creați cheia în Gcore

În Portalul pentru clienți Gcore, deschideți avatarul din colțul din dreapta sus, apoi Profil → Tokenuri API → Creare token. Denumiți-l, alegeți Niciodată sau o dată de expirare și acordați-i un rol pentru fiecare produs de care are nevoie. Gcore afișa tokenul o singură dată; copiați-l atunci.

Același token funcționează pentru fiecare produs Gcore pe care îl conectați, așa că, dacă ați conectat deja un produs Gcore, puteți lipi din nou același token — cu condiția ca rolurile sale să acopere și acest produs. Unui token nu i se poate atribui un rol superior celui pe care îl are propria dumneavoastră autentificare.

Acordați tokenului un rol pentru Cloud. De asemenea, aveți nevoie de ID-ul numeric al proiectului Gcore Cloud în care se află implementările dumneavoastră — serviciul de inferență Gcore este organizat pe proiecte, așa că un token singur nu le poate lista. Acesta este afișat pentru proiect în secțiunea Gcore Cloud din Portalul pentru clienți.

2. Conectați-l aici

Deschideți Integrări în panoul de control și alegeți Conectați un cont. Selectați Inferență AI ca grup și Gcore Everywhere Inference ca cont, completați Token API și ID proiect, apoi apăsați Conectați contul.

Testăm ceea ce lipiți înainte ca orice să fie salvat. O cheie care nu funcționează nu este stocată niciodată, iar răspunsul precizează care a fost problema cu aceasta. O cheie care funcționează este păstrată criptată în seiful nostru de secrete — niciodată în baza noastră de date — și nu este afișată din nou, nici măcar dumneavoastră.

Ce urmează

• Implementările dumneavoastră și opțiunile GPU pe care le oferă proiectul dumneavoastră sunt listate la **Propriile

servicii, accesibile din butonul Deschideți propriile servicii al conexiunii de la Integrări**.

• Implementările rulează și sunt facturate în contul dumneavoastră Gcore, în conformitate cu contractul dumneavoastră cu Gcore.

Dacă nu se conectează

Se afișează un mesaj care indică faptul că produsul nu este activat. Tokenul este valid, dar Everywhere Inference nu este activat pentru acel cont Gcore — prin urmare, Gcore refuză orice citire. Activați-l în Portalul pentru clienți Gcore (sau solicitați Gcore acest lucru), apoi conectați-vă din nou. Un token al cărui rol nu include Everywhere Inference generează același refuz; creați unul care îl include.

Se conectează, dar nu listează nimic. ID-ul proiectului indică un proiect fără implementări sau un proiect pe care tokenul nu îl poate accesa. Verificați dacă acesta este proiectul în care se află implementările dumneavoastră.

Se afișează un mesaj care indică faptul că cheia a fost respinsă. Aproape întotdeauna este vorba despre unul dintre următoarele trei lucruri: un spațiu sau o întrerupere de linie copiată împreună cu aceasta, o cheie care a expirat sau o cheie care a fost revocată sau regenerată după ce ați copiat-o. Creați una nouă și lipiți-o din nou.

Se conectează, dar ceva nu funcționează ulterior. Cheia se autentifică, dar îi lipsește o permisiune de care are nevoie acțiunea. Creați o cheie nouă cu permisiunile listate mai sus, apoi deconectați conexiunea veche și conectați noua cheie.

Deconectarea

Deschideți Integrări, găsiți contul și apăsați Deconectați. Aceasta șterge cheia stocată imediat. Orice utilizator care o folosea se oprește la următoarea acțiune, iar ecranele care depindeau de aceasta afișează acest lucru în loc să eșueze silențios.

Deconectarea nu anulează ceea ce a fost deja făcut — înregistrările, implementările sau setările pe care le-am modificat în contul dumneavoastră rămân așa cum sunt. Dacă credeți că cheia însăși ar fi putut fi compromisă, revocați-o și la furnizor; deconectarea elimină copia noastră, nu pe a lor.