ご自身の Gcore アカウントで AI 推論を実行する

接続によって利用可能になる機能

Gcore Everywhere Inference を接続すると、推論デプロイ (ご自身の Gcore アカウントで実行しているモデルエンドポイントおよび各エンドポイントが提供している内容) と、利用可能な GPU オプションが Zinn® ダッシュボードに取り込まれます。

開始する前に

Everywhere Inference が有効化された、ご自身の Gcore アカウントが必要です。これは持ち込み (BYO) 専用です。弊社は Everywhere Inference を再販していないため、製品、契約、および請求はお客様と Gcore 間での取り決めとなり、そこで実行される処理はお客様の Gcore アカウントに請求され、Zinn® プランには請求されません。

1. Gcore でキーを作成する

Gcore カスタマーポータルで右上のアバターを開き、Profile → API tokens → Create token の順に進みます。名前を入力し、Never expire または有効期限を選択して、必要な各製品のロールを付与します。Gcore はトークンを一度だけ表示しますので、その際にコピーしてください。

同じトークンは接続するすべての Gcore 製品で有効ですので、すでに 1 つの Gcore 製品を接続している場合は、そのロールが本製品もカバーしている限り、同じトークンを再度貼り付けることができます。トークンに、ご自身のログイン権限を上回るロールを付与することはできません。

トークンに Cloud のロールを付与してください。また、デプロイが存在する Gcore Cloud プロジェクトの数値 ID も必要です。Gcore の推論サービスはプロジェクト単位で管理されているため、トークン単体ではそれらを一覧表示できません。これはカスタマーポータルの Gcore Cloud セクションにあるプロジェクト情報に表示されています。

2. ここで接続する

ダッシュボードの Integrations を開き、Connect an account を選択します。グループとして AI inference、アカウントとして Gcore Everywhere Inference を選択し、API token と Project ID を入力して Connect account を押します。

何らかの情報が保存される前に、貼り付けられた内容がテストされます。機能しないキーは保存されず、応答に何が問題であったかが示されます。機能するキーは弊社のシークレット保管庫 (データベース内には絶対に保存されません) に暗号化されて保管され、お客様に対しても二度と再表示されることはありません。

次に行われること

• お客様のデプロイおよびプロジェクトが提供する GPU オプションは、Integrations にある接続の Open your own services ボタンからアクセスできる Your own services の下に一覧表示されます。
• デプロイの実行および請求は、Gcore との契約に基づき、お客様の Gcore アカウントで行われます。

接続できない場合

製品が有効化されていないと表示される場合。 トークンは有効ですが、その Gcore アカウントで Everywhere Inference がオンになっていません。その場合、Gcore はすべての読み取りを拒否します。Gcore カスタマーポータルで有効化する (または Gcore に依頼する) か、そのうえで再度接続してください。ロールに Everywhere Inference が含まれていないトークンでも同様の拒否が発生しますので、それを含むトークンを作成してください。

接続はされるが何も表示されない場合。 Project ID が、デプロイが存在しないプロジェクト、またはトークンがアクセスできないプロジェクトを指定しています。デプロイが存在するプロジェクトであるか確認してください。

キーが拒否されたと表示される場合。 ほとんどの場合、一緒にコピーされたスペースや改行、有効期限が切れたキー、あるいはコピー後に失効または再生成されたキーのいずれかが原因です。新しいキーを作成し、再度貼り付けてください。

接続は成功するが、後続の処理が失敗する場合。 キーは認証されていますが、そのアクションに必要な権限が不足しています。上記に記載された権限を持つ新しいキーを作成し、古い接続を切断してから新しいキーを接続してください。

切断

Integrations を開き、アカウントを見つけて Disconnect を押します。これにより、保存されているキーが直ちに削除されます。それを使用していたすべての処理は次回のアクション時に停止し、依存していた画面は警告なしに失敗するのではなく、その旨を表示します。

切断しても、既に行われた処理は元に戻りません。お客様のアカウントで変更されたレコード、デプロイ、または設定はそのまま維持されます。キー自体が漏洩した可能性があると思われる場合は、ベンダー側でも失効させてください。切断によって削除されるのは弊社のコピーであり、ベンダー側のキーではありません。