Voer AI-inferentie uit op uw eigen Gcore-account

Wat het koppelen voor u doet

Het koppelen van Gcore Everywhere Inference brengt uw inferentiedeployments — de model-endpoints die u op uw eigen Gcore-account uitvoert en wat elk daarvan bedient — en de voor u beschikbare gpu-opties naar uw Zinn®-dashboard.

Voordat u begint

Een eigen Gcore-account waarop Everywhere Inference is ingeschakeld. Dit is uitsluitend 'bring-your-own': we verkopen Everywhere Inference niet door, dus het product, het contract en de rekening bevinden zich tussen u en Gcore, en wat u daarop uitvoert wordt aan uw Gcore-account in rekening gebracht, niet aan uw Zinn®-abonnement.

1. Maak de sleutel aan bij Gcore

Open in de Gcore-klantenportal uw avatar rechtsboven en ga naar Profiel → API-tokens → Token maken. Geef deze een naam, kies Nooit laten verlopen of een vervaldatum en wijs een rol toe voor elk product dat deze nodig heeft. Gcore toont het token slechts eenmaal; kopieer het dan.

Hetzelfde token werkt voor elk Gcore-product dat u koppelt, dus als u al een Gcore-product hebt gekoppeld, kunt u dit token opnieuw plakken — op voorwaarde dat de rollen ervan ook dit product omvatten. Aan een token kan geen hogere rol worden toegewezen dan uw eigen inloggegevens hebben.

Geef het token een rol voor Cloud. U hebt ook de numerieke ID van het Gcore Cloud-project nodig waarin uw deployments zich bevinden — de inferentieservice van Gcore is georganiseerd per project, dus een token alleen kan deze niet opnemen. Dit wordt weergegeven bij het project in het gedeelte Gcore Cloud van de klantenportal.

2. Hier koppelen

Open Integraties in uw dashboard en kies Account koppelen. Kies AI-inferentie als de groep en Gcore Everywhere Inference als het account, vul API-token en Project-ID in en druk op Account koppelen.

We testen wat u plakt voordat er iets wordt opgeslagen. Een sleutel die niet werkt, wordt nooit opgeslagen en het antwoord vermeldt wat er mis mee was. Een werkende sleutel wordt versleuteld opgeslagen in onze kluis met geheimen — nooit in onze database — en wordt nooit meer getoond, zelfs niet aan u.

Wat er hierna gebeurt

• Uw deployments en de gpu-opties die uw project biedt, worden vermeld onder **Uw

eigen services, te bereiken via de knop Uw eigen services openen van de koppeling op Integraties**.

• Deployments worden uitgevoerd en gefactureerd op uw Gcore-account, onder uw contract met Gcore.

Als het niet lukt om te koppelen

Er wordt vermeld dat het product niet is ingeschakeld. Het token is geldig, maar Everywhere Inference is niet ingeschakeld voor dat Gcore-account — Gcore weigert vervolgens elk uitleesverzoek. Schakel dit in in de Gcore-klantenportal (of vraag Gcore dit te doen) en maak dan opnieuw verbinding. Een token waarvan de rol Everywhere Inference niet omvat, leidt tot dezelfde weigering; maak er een aan die dit wel doet.

Het maakt verbinding, maar er wordt niets vermeld. De Project-ID verwijst naar een project zonder deployments, of naar een project dat het token niet kan bereiken. Controleer of dit het project is waarin uw deployments zich bevinden.

Er wordt vermeld dat de sleutel is geweigerd. Dit komt vrijwel altijd door een van de volgende drie dingen: een spatie of een regeleinde dat is mee gekopieerd, een sleutel die is verlopen, of een sleutel die is ingetrokken of opnieuw is gegenereerd nadat u deze hebt gekopieerd. Maak een nieuwe aan en plak deze opnieuw.

Het maakt verbinding, maar iets later mislukt er iets. De sleutel verifieert de identiteit, maar mist een machtiging die de actie vereist. Maak een nieuwe sleutel aan met de hierboven vermelde machtigingen, verbreek vervolgens de oude koppeling en koppel de nieuwe sleutel.

Ontkoppelen

Open Integraties, zoek het account en druk op Ontkoppelen. Hiermee wordt de opgeslagen sleutel direct verwijderd. Alles wat hiervan gebruik maakte, stopt bij de volgende actie, en de schermen die davon afhankelijk waren geven dit weer in plaats van stilletjes te falen.

Ontkoppelen maakt niet ongedaan wat al is gedaan — records, deployments of instellingen die we op uw account hebben gewijzigd, blijven zoals ze zijn. Als u denkt dat de sleutel zelf is gelekt, trek deze dan ook in bij de leverancier; bij ontkoppeling wordt onze kopie verwijderd, niet de hunne.