Изпълнявайте AI инференс във вашия собствен Gcore акаунт

Какво ви дава свързването

Свързването на Gcore Everywhere Inference пренася вашите деплоймънти за инференс — крайните точки на моделите, които изпълнявате във вашия собствен акаунт в Gcore, и това, което обслужва всяка от тях — и налучкващите се GPU опции във вашето Zinn® табло за управление.

Преди да започнете

Собствен акаунт в Gcore с активирана услуга Everywhere Inference. Това е само със собствен ресурс: ние не препродажбаме Everywhere Inference, така че продуктът, договорът и фактурата са между вас и Gcore, а това, което изпълнявате там, се таксува към вашия акаунт в Gcore, а не към вашия план в Zinn®.

1. Създайте ключа в Gcore

В клиентския портал на Gcore отворете вашия аватара горе в дясно, след което изберете Профил → API токени → Създаване на токен. Именувайте го, изберете Никога не изтича или дата на изтичане и му задайте роля за всеки продукт, който му е необходим. Gcore показва токена само веднъж; копирайте го тогава.

Същият токен работи за всеки свързан продукт на Gcore, така че ако вече сте свързали един продукт на Gcore, можете да поставите същия токен отново — при условие че неговите роли покриват и този продукт. На токен не може да бъде дадена по-висока роля от тази, която има вашето собствено входно име.

Дайте на токена роля за Cloud. Нуждаете се и от числовите ID на проекта в Gcore Cloud, в който се намират вашите деплоймънти — услугата за инференс на Gcore е организирана по проекти, така че само един токен не може да ги изброи. Той се показва за проекта в секцията Gcore Cloud на клиентския портал.

2. Свържете го тук

Отворете Интеграции във вашето табло за управление и изберете Свързване на акаунт. Изберете AI инференс като група и Gcore Everywhere Inference като акаунт, попълнете API токен и ID на проект, и натиснете Свързване на акаунт.

Ние тестваме това, което поставяте, преди да бъде запазено каквото и да било. Ключ, който не работи, никога не се съхранява, а отговорът посочва какво не е било наред с него. Ключ, който работи, се пази криптиран в нашия хранилище за тайни — никога в нашата база данни — и никога повече не се показва, дори и на вас.

Какво се случва след това

• Вашите деплоймънти и GPU опциите, които вашият проект предлага, са изброени под Вашите собствени услуги, достъпни от бутона Отворете вашите собствени услуги на връзката Интеграции.
• Деплоймънтите се изпълняват и се таксуват във вашия акаунт в Gcore, съгласно вашия договор с Gcore.

Ако свързването не се осъществи

Показва съобщение, че продуктът не е активиран. Токенът е валиден, но Everywhere Inference не е включена за този акаунт в Gcore — тогава Gcore отказва всяко четене. Активирайте я в клиентския портал на Gcore (или помолете Gcore да го направи), след което се свържете отново. Токен, чиято роля не включва Everywhere Inference, води до същия отказ; създайте такъв, който я включва.

Свързва се, но не показва нищо. ID-то на проекта сочи към проект без деплоймънти или към проект, до който токенът няма достъп. Проверете дали това е проектът, в който се намират вашите деплоймънти.

Показва съобщение, че ключът е бил отхвърлен. Почти винаги едно от трите неща: интервал или пренос на нов ред, копирани с него, ключ, който е изтекъл, или ключ, който е бил отменен или регенериран, след като сте го копирали. Създайте нов и го поставете отново.

Свързва се, но нещо по-късно се проваля. Ключът се автентифицира, но му липсва разрешение, от което действието се нуждае. Създайте нов ключ с разрешенията, изброени по-горе, след което прекъснете старата връзка и свържете новия ключ.

Прекъсване на връзката

Отворете Интеграции, намерете акаунта и натиснете Прекъсване на връзката. Това незабавно изтрива съхранения ключ. Всичко, което го е използвало, спира при следващото си действие, а екраните, които са зависели от него, съобщават за това, вместо да се провалят тихо.

Прекъсването на връзката не отменя вече направеното — записите, деплоймънтите или настройките, които сме променили във вашия акаунт, остават такива, каквито са. Ако смятате, че самият ключ може да е бил изтекъл, отменете го и при доставчика; премахването на връзката премахва нашето копие, а не тяхното.