お客様のGcoreアカウントでAI推論を実行する

接続によって実現できること

Gcore Everywhere Inferenceを接続すると、ご自身の推論デプロイメント（独自のGcoreアカウント上で実行するモデルエンドポイント、およびそれぞれが提供しているもの）と、利用可能なGPUオプションがZinn®ダッシュボードに追加されます。

開始する前に

Everywhere Inferenceが有効化されたご自身のGcoreアカウントが必要です。これはBring Your Own（持ち込み）方式のみとなります。Zinn®ではEverywhere Inferenceの再販を行っていないため、製品、契約、請求はすべてお客様とGcoreの間で行われ、そこで実行される内容の料金はZinn®プランではなくGcoreアカウントに請求されます。

1. Gcoreでキーを作成する

Gcoreカスタマーポータルで、右上にあるアバターを開き、[Profile] → [API tokens] → [Create token] の順に選択します。名前を付け、[Never expire] または有効期限を選択し、必要な各製品のロールを付与します。Gcoreにトークンが1回だけ表示されるので、その時にコピーしてください。

同じトークンを接続するすべてのGcore製品で使用できるため、すでに1つのGcore製品を接続している場合は、そのロールがこの製品もカバーしている限り、同じトークンを再度貼り付けることができます。トークンに、お客様ご自身のログイン権限を超えるロールを付与することはできません。

トークンに [Cloud] のロールを付与します。また、デプロイメントが存在する Gcore Cloudプロジェクト の数値の ID も必要です。Gcoreの推論サービスはプロジェクトごとに整理されているため、トークンのみでリスト表示することはできません。これは、カスタマーポータルの [Gcore Cloud] セクションにあるプロジェクトに表示されます。

2. ここで接続する

ダッシュボードで [Integrations] を開き、[Connect an account] を選択します。グループとして [AI inference] を、アカウントとして [Gcore Everywhere Inference] を選択し、[API token] と [Project ID] を入力して、[Connect account] を押します。

入力された内容は、保存される前にテストされます。動作しないキーは保存されず、何が問題であったかが回答に表示されます。動作するキーはデータベースではなくシークレット・バールトに暗号化された状態で保持され、お客様を含め、二度と表示されません。

次のステップ

• デプロイメントおよびプロジェクトが提供するGPUオプションは、[Integrations] の接続にある [Open your own services] ボタンからアクセスできる [Your own services] の下に一覧表示されます。
• デプロイメントの実行および課金は、Gcoreとの契約に基づき、お客様のGcoreアカウントで行われます。

接続できない場合

製品が有効になっていないというメッセージが表示される。 トークンは有効ですが、そのGcoreアカウントでEverywhere Inferenceが有効になっていないため、Gcore側ですべての読み取りが拒否されます。Gcoreカスタマーポータルで有効にする（またはGcoreに依頼する）してから、再度接続してください。Everywhere Inferenceが含まれていないロールを持つトークンでも同様の拒否が発生するため、必要なロールを持つトークンを作成してください。

接続は成功するが、何もリスト表示されない。 Project ID がデプロイメントのないプロジェクトを指しているか、またはトークンがアクセスできないプロジェクトを指しています。デプロイメントが存在するプロジェクトであるかをご確認ください。

キーが拒否されたというメッセージが表示される。 ほとんどの場合、次の3つのいずれかが原因です。コピー時にスペースや改行が混入した、有効期限が切れた、あるいはコピーした後にキーが失効または再生成された。新しいキーを作成して、再度貼り付けてください。

接続は成功するが、後続の処理でエラーが発生する。 キーの認証は成功したものの、その操作に必要な権限が不足しています。上記に挙げた権限を持つ新しいキーを作成し、古い接続を切断してから、新しいキーを接続してください。

切断する

[Integrations] を開き、アカウントを見つけて [Disconnect] を押します。これにより、保存されたキーが即座に削除されます。そのキーを使用していたすべての処理は次のアクションで停止し、依存していた画面では、エラーが静かに失敗するのではなくその旨が表示されます。

切断しても、すでに実行された処理（お客様のアカウント上で変更されたレコード、デプロイメント、設定など）は元に戻りません。キー自体が漏洩した可能性があると思われる場合は、ベンダー側でもキーを無効化してください。切断によって削除されるのはZinn®側のコピーであり、ベンダー側のコピーではありません。