Führen Sie KI-Inferenz auf Ihrem eigenen Gcore-Konto aus

Was Ihnen die Verbindung bringt

Durch das Verbinden von Gcore Everywhere Inference werden Ihre Inferenz-Bereitstellungen – die Modell-Endpunkte, die Sie auf Ihrem eigenen Gcore-Konto ausführen, und was die einzelnen Endpunkte bereitstellen – sowie die Ihnen zur Verfügung stehenden GPU-Optionen in Ihr Zinn®-Dashboard übertragen.

Bevor Sie beginnen

Ein eigenes Gcore-Konto mit aktiviertem Everywhere Inference. Dies funktioniert ausschließlich nach dem Bring-Your-Own-Prinzip: Wir verkaufen Everywhere Inference nicht weiter, daher bestehen das Produkt, der Vertrag und die Rechnung direkt zwischen Ihnen und Gcore, und alles, was Sie dort ausführen, wird Ihrem Gcore-Konto und nicht Ihrem Zinn®-Tarif in Rechnung gestellt.

1. Schlüssel bei Gcore erstellen

Öffnen Sie im Gcore-Kundenportal oben rechts Ihren Avatar und gehen Sie auf Profil → API-Token → Token erstellen. Benennen Sie ihn, wählen Sie Läuft nie ab oder ein Ablaufdatum und weisen Sie ihm eine Rolle für jedes Produkt zu, das er benötigt. Gcore zeigt das Token nur einmal an; kopieren Sie es direkt.

Dasselbe Token funktioniert für jedes Gcore-Produkt, das Sie verbinden. Wenn Sie also bereits ein Gcore-Produkt verbunden haben, können Sie dasselbe Token erneut einfügen – vorausgesetzt, seine Rollen decken auch dieses Produkt ab. Einem Token kann keine höhere Rolle zugewiesen werden, als Ihr eigenes Login besitzt.

Weisen Sie dem Token eine Rolle für Cloud zu. Sie benötigen außerdem die numerische ID des Gcore Cloud-Projekts, in dem sich Ihre Bereitstellungen befinden – der Inferenz-Dienst von Gcore ist nach Projekten organisiert, sodass ein Token allein diese nicht auflisten kann. Sie wird für das jeweilige Projekt im Gcore Cloud-Bereich des Kundenportals angezeigt.

2. Hier verbinden

Öffnen Sie in Ihrem Dashboard Integrationen und wählen Sie Konto verbinden. Wählen Sie KI-Inferenz als Gruppe und Gcore Everywhere Inference als Konto, tragen Sie API-Token sowie Projekt-ID ein und klicken Sie auf Konto verbinden.

Wir testen Ihre Eingabe, bevor irgendetwas gespeichert wird. Ein Schlüssel, der nicht funktioniert, wird niemals gespeichert, und die Antwort gibt an, was daran fehlerhaft war. Ein funktionierender Schlüssel wird verschlüsselt in unserem Secrets-Vault aufbewahrt – niemals in unserer Datenbank – und wird danach nie wieder angezeigt, auch Ihnen nicht.

Was als Nächstes geschieht

• Ihre Bereitstellungen und die von Ihrem Projekt angebotenen GPU-Optionen werden unter Eigene Dienste aufgelistet, erreichbar über die Schaltfläche Eigene Dienste öffnen der jeweiligen Verbindung unter Integrationen.
• Bereitstellungen laufen und werden über Ihr Gcore-Konto gemäß Ihrem Vertrag mit Gcore abgerechnet.

Wenn keine Verbindung hergestellt werden kann

Es wird gemeldet, dass das Produkt nicht aktiviert ist. Das Token ist gültig, aber Everywhere Inference ist für dieses Gcore-Konto nicht eingeschaltet – Gcore verweigert dann jeden Lesezugriff. Aktivieren Sie es im Gcore-Kundenportal (oder bitten Sie Gcore darum) und stellen Sie die Verbindung erneut her. Ein Token, dessen Rolle Everywhere Inference nicht enthält, führt zur selben Verweigerung; erstellen Sie eines, das dies beinhaltet.

Die Verbindung steht, aber es wird nichts aufgelistet. Die Projekt-ID verweist auf ein Projekt ohne Bereitstellungen oder auf ein Projekt, auf das das Token nicht zugreifen kann. Überprüfen Sie, ob es sich um das Projekt handelt, in dem sich Ihre Bereitstellungen befinden.

Es wird gemeldet, dass der Schlüssel abgelehnt wurde. Fast immer liegt es an einem von drei Gründen: ein mitkopiertes Leerzeichen oder ein Zeilenumbruch, ein abgelaufener Schlüssel oder ein Schlüssel, der nach dem Kopieren widerrufen oder neu generiert wurde. Erstellen Sie einen neuen Schlüssel und fügen Sie ihn erneut ein.

Die Verbindung wird hergestellt, aber später schlägt etwas fehl. Der Schlüssel authentifiziert sich, besitzt jedoch nicht die Berechtigung, die die Aktion erfordert. Erstellen Sie einen neuen Schlüssel mit den oben aufgeführten Berechtigungen, trennen Sie dann die alte Verbindung und verbinden Sie den neuen Schlüssel.

Verbindung trennen

Öffnen Sie Integrationen, suchen Sie das Konto und klicken Sie auf Trennen. Dadurch wird der gespeicherte Schlüssel sofort gelöscht. Alles, was ihn verwendet hat, bricht bei der nächsten Aktion ab, und die Bildschirme, die darauf angewiesen waren, weisen darauf hin, anstatt stillschweigend fehlzuschlagen.

Das Trennen der Verbindung macht das, was bereits getan wurde, nicht rückgängig – Datensätze, Bereitstellungen oder Einstellungen, die wir auf Ihrem Konto geändert haben, bleiben unverändert. Wenn Sie den Verdacht haben, dass der Schlüssel selbst kompromittiert wurde, widerrufen Sie ihn auch beim Anbieter; durch das Trennen wird nur unsere Kopie entfernt, nicht deren.