Esegui l'inferenza di IA sul Suo account Gcore

Cosa fa questo collegamento per voi

Il collegamento di Gcore Everywhere Inference porta le vostre distribuzioni di inferenza — gli endpoint dei modelli che eseguite sul vostro account Gcore e ciò che ciascuno di essi fornisce — e le opzioni GPU a vostra disposizione nella vostra dashboard di Zinn®.

Prima di iniziare

Un vostro account Gcore, con Everywhere Inference abilitato. Si tratta esclusivamente della modalità bring-your-own: non rivendiamo Everywhere Inference, pertanto il prodotto, il contratto e la fattura riguardano esclusivamente voi e Gcore, e ciò che eseguite lì viene addebitato sul vostro account Gcore, non sul vostro piano Zinn®.

1. Creare la chiave su Gcore

Nel Customer Portal di Gcore, aprite il vostro avatar in alto a destra, quindi Profilo → Token API → Crea token. Assegnategli un nome, scegliete Non scade mai o una data di scadenza e conferitegli un ruolo per ciascun prodotto di cui necessita. Gcore mostra il token una sola volta; copiatelo subito.

Lo stesso token funziona per ogni prodotto Gcore che collegate, quindi se avete già collegato un prodotto Gcore potete incollare nuovamente lo stesso token, a patto che i suoi ruoli coprano anche questo prodotto. A un token non può essere assegnato un ruolo superiore a quello del vostro login.

Assegnate al token un ruolo per Cloud. Vi serve anche l'ID numerico del progetto Gcore Cloud in cui risiedono le vostre distribuzioni: il servizio di inferenza di Gcore è organizzato per progetti, quindi un solo token non è sufficiente a elencarli. Viene mostrato per il progetto nella sezione Gcore Cloud del Customer Portal.

2. Collegarlo qui

Aprite Integrazioni nella vostra dashboard e scegliete Collega un account. Selezionate Inferenza IA come gruppo e Gcore Everywhere Inference come account, compilate Token API e ID progetto e premete Collega account.

Verifichiamo ciò che incollate prima che venga salvato qualsiasi elemento. Una chiave che non funziona non viene mai memorizzata e la risposta indica quale sia stato il problema. Una chiave funzionante viene conservata crittografata nel nostro caveau dei segreti — mai nel nostro database — e non viene mai mostrata di nuovo, nemmeno a voi.

Cosa succede dopo

• Le vostre distribuzioni e le opzioni GPU offerte dal vostro progetto sono elencate alla voce I vostri servizi, raggiungibile tramite il pulsante Apri i vostri servizi della connessione nella sezione Integrazioni.
• Le distribuzioni vengono eseguite e fatturate sul vostro account Gcore, in base al vostro contratto con Gcore.

Se non si collega

Indica che il prodotto non è abilitato. Il token è valido, ma Everywhere Inference non è attivo per quell'account Gcore; di conseguenza Gcore rifiuta qualsiasi lettura. Abilitatelo nel Customer Portal di Gcore (o chiedete a Gcore di farlo), quindi collegatevi di nuovo. Un token il cui ruolo non include Everywhere Inference produce lo stesso rifiuto; createne uno che lo includa.

Si collega ma non elenca nulla. L'ID progetto punta a un progetto senza distribuzioni o a un progetto che il token non può raggiungere. Verificate che sia il progetto in cui si trovano le vostre distribuzioni.

Indica che la chiave è stata rifiutata. Quasi sempre si tratta di una di queste tre cose: uno spazio o un'interruzione di riga copiati insieme alla chiave, una chiave scaduta o una chiave revocata o rigenerata dopo averla copiata. Creane una nuova e incollala di nuovo.

Si collega, ma qualcosa in seguito fallisce. La chiave si autentica ma manca di un'autorizzazione necessaria all'azione. Create una nuova chiave con le autorizzazioni elencate sopra, quindi disconnettete la vecchia connessione e collegate la nuova chiave.

Disconnessione

Aprite Integrazioni, individuate l'account e premete Disconnetti. Questa operazione elimina immediatamente la chiave memorizzata. Qualsiasi elemento che la stesse utilizzando si arresta all'azione successiva e le schermate che ne dipendevano lo segnalano anziché fallire silenziosamente.

La disconnessione non annulla ciò che è già stato fatto: registri, distribuzioni o impostazioni che abbiamo modificato sul vostro account rimangono così come sono. Se ritenete che la chiave stessa possa essere trapelata, revocatela anche presso il fornitore; la disconnessione rimuove la nostra copia, non la loro.