Run AI inference on your own Gcore account

连接操作对您的作用

连接 Gcore Everywhere Inference 会将您的推理部署（您在自己的 Gcore 帐户上运行的模型端点以及每个端点提供的内容）以及可用的GPU 选项引入您的 Zinn® 仪表板。

开始之前

您需要拥有自己的 Gcore 帐户，并已在其中启用 Everywhere Inference。这是“自备服务”模式：我们不转售 Everywhere Inference，因此产品、合同和账单均由您与 Gcore 签订，您在那里运行的内容费用将计入您的 Gcore 帐户，而不是您的 Zinn® 计划。

1. 在 Gcore 中创建密钥

在 Gcore 客户门户中，打开右上角的头像，然后依次点击个人资料 (Profile) → API 令牌 (API tokens) → 创建令牌 (Create token)。为其命名，选择永不过期 (Never expire) 或过期日期，并为它所需 的每个产品分配角色。Gcore 只会显示一次该令牌，请立即复制。

相同的令牌适用于您连接的每个 Gcore 产品，因此如果您已经连接了一个 Gcore 产品，则可以再次粘贴相同的令牌——前提是其角色也涵盖此产品。令牌被授予的角色级别不得高于您自己的登录权限。

为令牌分配 Cloud 角色。您还需要部署所在的 Gcore Cloud 项目的数字 ID——Gcore 的推理服务是按项目组织的，因此仅靠令牌无法将其列出。该项目 ID 显示在客户门户的 Gcore Cloud 部分中。

2. 在此处进行连接

在您的仪表板中打开集成 (Integrations)，然后选择连接帐户 (Connect an account)。选择 AI 推理作为组，选择 Gcore Everywhere Inference 作为帐户，填写API 令牌和项目 ID，并按连接帐户 (Connect account)。

我们在保存任何内容之前会对您粘贴的内容进行测试。无法使用的密钥绝不会被存储，系统会给出错误提示。能够正常使用的密钥将加密保存在我们的机密保险库中（绝不保存在数据库中），并且绝不会再次显示，甚至不会向您展示。

接下来会发生什么

• 您的部署以及您的项目提供的 GPU 选项将列在您自己的服务 (Your own services) 下，您可以通过“集成”页面上连接的打开您自己的服务 (Open your own services) 按钮访问该页面。
• 部署在您的 Gcore 帐户上运行并计费，适用您与 Gcore 的合同。

如果连接失败

提示产品未启用。 令牌有效，但该 Gcore 帐户未开启 Everywhere Inference，因此 Gcore 会拒绝所有读取请求。请在 Gcore 客户门户中启用它（或联系 Gcore 启用），然后重新连接。权限中不包含 Everywhere Inference 的令牌也会导致相同的拒绝提示；请创建一个包含该权限的令牌。

连接成功但未列出任何内容。 项目 ID 指向了一个没有部署的项目，或者是令牌无法访问的项目。请检查它是否正是您的部署所在的项目。

提示密钥被拒绝。 通常是以下三种情况之一：复制时带入了空格或换行符、密钥已过期、或者密钥在您复制后已被撤销或重新生成。请创建一个新密钥并重新粘贴。

连接成功，但随后的操作失败。 密钥通过了身份验证，但缺少该操作所需的权限。请使用上述权限创建一个新密钥，然后断开旧连接并连接新密钥。

断开连接

打开集成 (Integrations)，找到该帐户并点击断开连接 (Disconnect)。这会立即删除存储的密钥。任何使用该密钥的内容都会在下一次操作时停止，依赖于它的屏幕会显示提示，而不是默默失败。

断开连接不会撤销已经完成的操作——我们在您的帐户上更改的记录、部署或设置将保持原样。如果您认为密钥本身可能已泄露，请同时在供应商处将其撤销；断开连接只会删除我们的副本，而不会删除他们的副本。