Esegua l'inferenza AI sul Suo account Gcore personale

Cosa offre questa connessione

Connettere Gcore Everywhere Inference porta le Sue distribuzioni di inferenza — gli endpoint del modello eseguiti sul Suo account Gcore e i contenuti distribuiti da ciascuno di essi — e le opzioni GPU a Sua disposizione direttamente nella Sua dashboard Zinn®.

Prima di iniziare

Un account Gcore personale, con Everywhere Inference abilitato. Questa funzionalità è esclusivamente di tipo "bring-your-own": non rivendiamo Everywhere Inference, pertanto il prodotto, il contratto e la fatturazione rimangono tra Lei e Gcore, e le risorse ivi eseguite vengono addebitate sul Suo account Gcore, non sul Suo piano Zinn®.

1. Creare la chiave su Gcore

Nel Customer Portal di Gcore, apra il Suo avatar in alto a destra, quindi selezioni Profilo → Token API → Crea token. Assegni un nome, scelga Non scade mai o una data di scadenza e attribuisca un ruolo per ciascun prodotto necessario. Gcore mostra il token una sola volta; lo copi in quel momento.

Lo stesso token funziona per ogni prodotto Gcore collegato, quindi se ha già effettuato il collegamento a un prodotto Gcore può incollare nuovamente lo stesso token, a patto che i suoi ruoli coprano anche questo prodotto. A un token non può essere assegnato un ruolo superiore a quello del Suo account di accesso.

Assegni al token un ruolo per Cloud. È inoltre necessario l'ID numerico del progetto Gcore Cloud in cui risiedono le Sue distribuzioni; il servizio di inferenza di Gcore è organizzato per progetti, pertanto un token da solo non è sufficiente per elencarli. Tale ID viene mostrato per il progetto nella sezione Gcore Cloud del Customer Portal.

2. Effettuare il collegamento qui

Apra Integrazioni nella Sua dashboard e scelga Collega un account. Selezioni Inferenza IA come gruppo e Gcore Everywhere Inference come account, compili Token API e ID progetto, quindi prema Collega account.

Verifichiamo quanto incollato prima di salvare qualsiasi elemento. Una chiave non funzionante non viene mai memorizzata e la risposta indica l'errore riscontrato. Una chiave funzionante viene conservata crittografata nella nostra cassaforte di segreti — mai nel nostro database — e non viene mai più mostrata, nemmeno a Lei.

Fasi successive

• Le Sue distribuzioni e le opzioni GPU offerte dal Suo progetto sono elencate sotto I Suoi servizi, raggiungibile tramite il pulsante Apri i Suoi servizi della connessione in Integrazioni.
• Le distribuzioni vengono eseguite e fatturate sul Suo account Gcore, in base al Suo contratto con Gcore.

Se la connessione non riesce

Viene indicato che il prodotto non è abilitato. Il token è valido, ma Everywhere Inference non è attivato per quell'account Gcore; Gcore rifiuta quindi ogni lettura. Lo abiliti nel Customer Portal di Gcore (o richieda a Gcore di farlo), quindi effettui nuovamente la connessione. Un token il cui ruolo non include Everywhere Inference genera il medesimo rifiuto; ne crei uno che lo includa.

La connessione avviene ma non viene elencato nulla. L'ID progetto punta a un progetto senza distribuzioni o a un progetto non accessibile dal token. Verifichi che si tratti del progetto in cui si trovano le Sue distribuzioni.

Viene indicato che la chiave è stata rifiutata. Si tratta quasi sempre di una tra queste tre cause: uno spazio o un'interruzione di riga copiati insieme alla chiave, una chiave scaduta, oppure una chiave revocata o rigenerata dopo essere stata copiata. Ne crei una nuova e la incolli di nuovo.

La connessione riesce, ma un'operazione successiva fallisce. La chiave si autentica ma non dispone di un'autorizzazione richiesta dall'azione. Crei una nuova chiave con i permessi sopra indicati, quindi scolleghi la vecchia connessione e colleghi la nuova chiave.

Disconnessione

Apra Integrazioni, individui l'account e prema Disconnetti. In questo modo la chiave memorizzata verrà eliminata immediatamente. Qualsiasi elemento che la utilizzava si arresterà all'azione successiva e le schermate dipendenti da essa ne daranno notifica anziché fallire silenziosamente.

La disconnessione non annulla quanto già effettuato: i record, le distribuzioni o le impostazioni modificate sul Suo account rimangono inalterati. Se ritiene che la chiave stessa sia stata compromessa, provveda a revocarla anche presso il fornitore; la disconnessione rimuove la nostra copia, non la loro.