Bağlantı kurmanın size sağladıkları
Gcore Everywhere Inference bağlantısını kurmak, çıkarım dağıtımlarınızı (kendi Gcore hesabınızda çalıştırdığınız model uç noktalarını ve her birinin neye hizmet verdiğini) ve kullanabileceğiniz GPU seçeneklerini Zinn® kontrol panelinize taşır.
Başlamadan önce
Üzerinde Everywhere Inference etkinleştirilmiş, kendinize ait bir Gcore hesabı gereklidir. Bu yalnızca kendi lisansını/hesabını getirme (BYO) modelindedir: Everywhere Inference yeniden satışını yapmadığımız için ürün, sözleşme ve fatura siz ile Gcore arasındadır; orada çalıştırdığınız işlemler Zinn® planınıza değil, Gcore hesabınıza yansıtılır.
1. Anahtarı Gcore tarafında oluşturun
Gcore Müşteri Portalında, sağ üstteki profil resminizi açın ve ardından Profile → API tokens → Create token yolunu izleyin. Bir ad verin, Never expire seçeneğini veya bir son kullanma tarihi belirleyin ve ihtiyaç duyduğu her ürün için bir rol atayın. Gcore belirteci yalnızca bir kez gösterir; o anda kopyalayın.
Aynı belirteç bağladığınız her Gcore ürünü için geçerlidir; bu nedenle önceden bir Gcore ürünü bağladıysanız, rolleri bu ürünü de kapsadığı sürece aynı belirteci tekrar yapıştırabilirsiniz. Bir belirtece, kendi oturum açma yetkinizden daha yüksek bir rol atanamaz.
Belirtece Cloud için bir rol verin. Ayrıca dağıtımlarınızın yer aldığı Gcore Cloud projesinin sayısal kimliğine (ID) de ihtiyacınız vardır; Gcore'un çıkarım hizmeti projeler halinde düzenlendiğinden, tek başına bir belirteç bunları listeleyemez. Bu kimlik, Müşteri Portalının Gcore Cloud bölümünde proje için gösterilir.
2. Buradan bağlayın
Kontrol panelinizde Integrations bölümünü açın ve Connect an account seçeneğini seçin. Grup olarak AI inference ve hesap olarak Gcore Everywhere Inference seçin, API token ve Project ID alanlarını doldurun ve Connect account düğmesine basın.
Herhangi bir şeyi kaydetmeden önce yapıştırdığınız veriyi test ederiz. Çalışmayan bir anahtar asla saklanmaz ve verilen yanıtta anahtarla ilgili sorunun ne olduğu belirtilir. Çalışan bir anahtar ise şifrelenmiş olarak gizli dizi kasamızda (secrets vault) tutulur — veri tabanımızda asla saklanmaz — ve bir daha size dahi kesinlikle gösterilmez.
Sonrasında ne olur
- Dağıtımlarınız ve projenizin sunduğu GPU seçenekleri, Integrations altındaki bağlantının Open your own services düğmesinden erişilen Your own services altında listelenir.
- Dağıtımlar, Gcore ile yaptığınız sözleşme kapsamında Gcore hesabınızda çalışır ve faturalandırılır.
Bağlantı kurulamazsa
Ürünün etkinleştirilmediği belirtiliyorsa. Belirteç geçerlidir, ancak ilgili Gcore hesabı için Everywhere Inference açılmamıştır; bu durumda Gcore her okuma isteğini reddeder. Gcore Müşteri Portalında etkinleştirin (veya Gcore'dan talep edin), ardından tekrar bağlanın. Rolü Everywhere Inference kapsamayan bir belirteç de aynı ret yanıtını verir; bu rolü içeren yeni bir belirteç oluşturun.
Bağlanıyor ancak hiçbir şey listelemiyorsa. Project ID, hiçbir dağıtımı olmayan bir projeye veya belirtecin erişemediği bir projeye işaret ediyordur. Dağıtımlarınızın bulunduğu proje olduğunu kontrol edin.
Anahtarın reddedildiği belirtiliyorsa. Neredeyse her zaman şu üç durumdan biridir: anahtarla birlikte kopyalanan bir boşluk veya satır sonu, süresi dolmuş bir anahtar ya da kopyalamanızdan sonra iptal edilmiş veya yeniden oluşturulmuş bir anahtar. Yeni bir tane oluşturun ve tekrar yapıştırın.
Bağlanıyor, ancak daha sonra bir işlem başarısız oluyorsa. Anahtar kimlik doğrulamasından geçiyordur ancak işlemin gerektirdiği bir izne sahip değildir. Yukarıda listelenen izinlere sahip yeni bir anahtar oluşturun, ardından eski bağlantıyı kesin ve yeni anahtarı bağlayın.
Bağlantıyı kesme
Integrations bölümünü açın, hesabı bulun ve Disconnect düğmesine basın. Bu işlem, saklanan anahtarı derhal siler. Bu anahtarı kullanan her şey bir sonraki işleminde durur ve anahtara bağımlı ekranlar sessizce hata vermek yerine durumu belirtir.
Bağlantıyı kesmek daha önce yapılmış işlemleri geri almaz; hesabınızda değiştirdiğimiz kayıtlar, dağıtımlar veya ayarlar olduğu gibi kalır. Anahtarın kendisinin sızdırılmış olabileceğini düşünüyorsanız, anahtarı sağlayıcı tarafında da iptal edin; bağlantıyı kesmek onların değil, yalnızca bizim kopyamızı kaldırır.