Führen Sie die KI-Inferenz auf Ihrem eigenen Gcore-Konto aus

Was Ihnen die Verbindung bringt

Durch das Verbinden von Gcore Everywhere Inference werden Ihre Inferenz-Bereitstellungen – die von Ihnen in Ihrem eigenen Gcore-Konto ausgeführten Modell-Endpunkte und deren Bereitstellungen – sowie die Ihnen zur Verfügung stehenden GPU-Optionen in Ihr Zinn®-Dashboard integriert.

Vor dem Start

Sie benötigen ein eigenes Gcore-Konto, bei dem Everywhere Inference aktiviert ist. Dies basiert ausschließlich auf dem Prinzip „Bring your own“: Wir vertreiben Everywhere Inference nicht weiter; das Produkt, der Vertrag und die Abrechnung bestehen also zwischen Ihnen und Gcore, und das von Ihnen dort Ausgeführte wird über Ihr Gcore-Konto abgerechnet, nicht über Ihren Zinn®-Tarif.

1. Erstellen Sie den Schlüssel bei Gcore

Öffnen Sie im Gcore Customer Portal oben rechts Ihr Avatar und wählen Sie dann Profile → API tokens → Create token. Vergeben Sie einen Namen, wählen Sie Never expire oder ein Ablaufdatum und weisen Sie dem Token eine Rolle für jedes benötigte Produkt zu. Gcore zeigt das Token nur einmal an; kopieren Sie es daher sofort.

Dasselbe Token funktioniert für jedes Gcore-Produkt, das Sie verbinden. Wenn Sie also bereits ein Gcore-Produkt verbunden haben, können Sie dasselbe Token erneut einfügen – vorausgesetzt, dessen Rollen decken auch dieses Produkt ab. Einem Token kann keine höhere Rolle zugewiesen werden als die Ihres eigenen Logins.

Weisen Sie dem Token eine Rolle für Cloud zu. Sie benötigen außerdem die numerische ID des Gcore Cloud-Projekts, in dem sich Ihre Bereitstellungen befinden. Da der Inferenzdienst von Gcore nach Projekten organisiert ist, kann ein Token allein diese nicht auflisten. Sie wird für das Projekt im Bereich Gcore Cloud des Customer Portals angezeigt.

2. Verbinden Sie es hier

Öffnen Sie Integrations in Ihrem Dashboard und wählen Sie Connect an account. Wählen Sie AI inference als Gruppe und Gcore Everywhere Inference als Konto, füllen Sie API token und Project ID aus und klicken Sie auf Connect account.

Wir überprüfen Ihre Eingabe, bevor Daten gespeichert werden. Ein Schlüssel, der nicht funktioniert, wird niemals gespeichert, und die Antwort gibt an, was daran fehlerhaft war. Ein funktionierender Schlüssel wird verschlüsselt in unserem Secrets-Tresor aufbewahrt – niemals in unserer Datenbank – und wird nie wieder angezeigt, nicht einmal Ihnen.

Was als Nächstes geschieht

• Ihre Bereitstellungen und die von Ihrem Projekt bereitgestellten GPU-Optionen werden unter Your own services aufgelistet, erreichbar über die Schaltfläche Open your own services der Verbindung unter Integrations.
• Bereitstellungen werden ausgeführt und über Ihr Gcore-Konto im Rahmen Ihres Vertrags mit Gcore abgerechnet.

Wenn keine Verbindung hergestellt werden kann

Es wird angezeigt, dass das Produkt nicht aktiviert ist. Das Token ist gültig, aber Everywhere Inference ist für dieses Gcore-Konto nicht eingeschaltet – Gcore verweigert daraufhin jeden Lesevorgang. Aktivieren Sie es im Gcore Customer Portal (oder bitten Sie Gcore darum) und verbinden Sie es anschließend erneut. Ein Token, dessen Rolle Everywhere Inference nicht einschließt, führt zur gleichen Verweigerung; erstellen Sie ein entsprechendes Token.

Es wird eine Verbindung hergestellt, aber nichts aufgelistet. Die Project ID verweist auf ein Projekt ohne Bereitstellungen oder auf ein Projekt, das für das Token nicht erreichbar ist. Überprüfen Sie, ob es sich um das Projekt handelt, in dem sich Ihre Bereitstellungen befinden.

Es wird angezeigt, dass der Schlüssel abgelehnt wurde. Fast immer liegt einer von drei Gründen vor: Ein mitkopiertes Leerzeichen oder ein Zeilenumbruch, ein abgelaufener Schlüssel oder ein Schlüssel, der nach dem Kopieren widerrufen oder neu generiert wurde. Erstellen Sie einen neuen Schlüssel und fügen Sie ihn erneut ein.

Die Verbindung wird hergestellt, aber ein späterer Vorgang schlägt fehl. Der Schlüssel authentifiziert sich, verfügt jedoch nicht über eine für den Vorgang erforderliche Berechtigung. Erstellen Sie einen neuen Schlüssel mit den oben aufgeführten Berechtigungen, trennen Sie dann die alte Verbindung und verbinden Sie den neuen Schlüssel.

Trennen der Verbindung

Öffnen Sie Integrations, suchen Sie das Konto und klicken Sie auf Disconnect. Dadurch wird der gespeicherte Schlüssel sofort gelöscht. Alles, was diesen verwendet hat, stoppt bei der nächsten Aktion, und die Bildschirme, die davon abhingen, weisen darauf hin, anstatt stillschweigend fehlzuschlagen.

Das Trennen der Verbindung macht das bereits Getane nicht rückgängig – Aufzeichnungen, Bereitstellungen oder Einstellungen, die wir an Ihrem Konto vorgenommen haben, bleiben unverändert. Wenn Sie vermuten, dass der Schlüssel selbst kompromittiert wurde, widerrufen Sie ihn zusätzlich beim Anbieter; durch das Trennen der Verbindung wird nur unsere Kopie entfernt, nicht deren.