अपने स्वयं के Gcore खाते पर AI इनफ़्रेंस चलाएं

इसे कनेक्ट करने से आपको क्या लाभ होगा

Gcore Everywhere Inference को कनेक्ट करने से आपके inference डिप्लॉयमेंट्स — यानी वे मॉडल एंडपॉइंट्स जिन्हें आप अपने स्वयं के Gcore खाते पर चलाते हैं, और उनमें से प्रत्येक क्या सर्व कर रहा है — और आपके लिए उपलब्ध GPU विकल्प आपके Zinn® डैशबोर्ड में आ जाते हैं।

शुरू करने से पहले

आपका अपना एक Gcore खाता, जिस पर Everywhere Inference सक्षम हो। यह केवल अपना-लाएं (bring-your-own) आधार पर है: हम Everywhere Inference को दोबारा नहीं बेचते हैं, इसलिए उत्पाद, अनुबंध और बिल आपके और Gcore के बीच हैं, और आप वहां जो कुछ भी चलाते हैं उसका शुल्क आपके Gcore खाते से लिया जाता है, आपके Zinn® प्लान से नहीं।

1. Gcore पर कुंजी (key) बनाएं

Gcore कस्टमर पोर्टल में, ऊपर दाईं ओर अपना अवतार खोलें, फिर Profile → API tokens → Create token पर जाएं। इसे एक नाम दें, Never expire या कोई समाप्ति तिथि चुनें, और इसे प्रत्येक आवश्यक उत्पाद के लिए एक भूमिका (role) दें। Gcore टोकन को केवल एक बार दिखाता है; इसे तभी कॉपी कर लें।

वही टोकन आपके द्वारा कनेक्ट किए जाने वाले प्रत्येक Gcore उत्पाद के लिए काम करता है, इसलिए यदि आपने पहले ही एक Gcore उत्पाद कनेक्ट कर रखा है, तो आप वही टोकन दोबारा पेस्ट कर सकते हैं — बशर्ते उसकी भूमिकाएं इस उत्पाद को भी कवर करती हों। किसी टोकन को आपके अपने लॉगिन से उच्चतर भूमिका नहीं दी जा सकती।

टोकन को Cloud के लिए एक भूमिका दें। आपको उस Gcore Cloud प्रोजेक्ट की संख्यात्मक ID की भी आवश्यकता होगी जिसमें आपके डिप्लॉयमेंट्स मौजूद हैं — Gcore की inference सेवा प्रोजेक्ट के आधार पर व्यवस्थित होती है, इसलिए केवल एक टोकन उन्हें सूचीबद्ध नहीं कर सकता। यह कस्टमर पोर्टल के Gcore Cloud अनुभाग में प्रोजेक्ट के लिए दिखाई जाती है।

2. इसे यहां कनेक्ट करें

अपने डैशबोर्ड में Integrations खोलें और Connect an account चुनें। समूह के रूप में AI inference और खाते के रूप में Gcore Everywhere Inference चुनें, API token और Project ID भरें, और Connect account दबाएं।

कुछ भी सहेजने से पहले हम आपके द्वारा पेस्ट की गई जानकारी का परीक्षण करते हैं। जो कुंजी काम नहीं करती उसे कभी भी संग्रहीत नहीं किया जाता है, और उत्तर में बताया जाता है कि उसमें क्या समस्या थी। जो कुंजी काम करती है उसे हमारे सीक्रेट्स वॉल्ट में एन्क्रिप्टेड रखा जाता है — हमारे डेटाबेस में कभी नहीं — और इसे फिर कभी नहीं दिखाया जाता है, यहां तक कि आपको भी नहीं।

आगे क्या होता है

• आपके डिप्लॉयमेंट्स और आपका प्रोजेक्ट जो GPU विकल्प प्रदान करता है, वे Your own services के अंतर्गत सूचीबद्ध होते हैं, जहां Integrations पर कनेक्शन के Open your own services बटन से पहुंचा जा सकता है।
• डिप्लॉयमेंट्स Gcore के साथ आपके अनुबंध के तहत, आपके Gcore खाते पर चलते हैं और उनका बिल वहीं भेजा जाता है।

यदि यह कनेक्ट नहीं होता है

यह बताता है कि उत्पाद सक्षम नहीं है। टोकन मान्य है, लेकिन उस Gcore खाते के लिए Everywhere Inference चालू नहीं है — Gcore तब प्रत्येक रीड अनुरोध को अस्वीकार कर देता है। इसे Gcore कस्टमर पोर्टल में सक्षम करें (या Gcore से करने के लिए कहें), फिर दोबारा कनेक्ट करें। जिस टोकन की भूमिका में Everywhere Inference शामिल नहीं है, वह भी यही अस्वीकृति उत्पन्न करता है; ऐसा टोकन बनाएं जिसमें यह शामिल हो।

यह कनेक्ट हो जाता है लेकिन कुछ भी सूचीबद्ध नहीं करता है। Project ID किसी ऐसे प्रोजेक्ट की ओर संकेत करती है जिसमें कोई डिप्लॉयमेंट नहीं है, या किसी ऐसे प्रोजेक्ट की ओर जहां तक टोकन नहीं पहुंच सकता। जांचें कि क्या यह वही प्रोजेक्ट है जिसमें आपके डिप्लॉयमेंट्स मौजूद हैं।

यह बताता है कि कुंजी अस्वीकार कर दी गई थी। लगभग हमेशा तीन में से एक बात होती है: इसके साथ कॉपी किया गया कोई स्पेस या लाइन ब्रेक, कोई ऐसी कुंजी जिसकी समय-सीमा समाप्त हो चुकी है, या कोई ऐसी कुंजी जिसे आपके द्वारा कॉपी किए जाने के बाद रद्द या पुनर्जीवित किया गया था। एक नई कुंजी बनाएं और इसे फिर से पेस्ट करें।

यह कनेक्ट हो जाता है, लेकिन बाद में कुछ विफल हो जाता है। कुंजी प्रमाणित तो हो जाती है लेकिन उसमें उस अनुमति का अभाव होता है जिसकी कार्रवाई के लिए आवश्यकता होती है। ऊपर सूचीबद्ध अनुमतियों के साथ एक नई कुंजी बनाएं, फिर पुराने कनेक्शन को डिस्कनेक्ट करें और नई कुंजी को कनेक्ट करें।

डिस्कनेक्ट करना

Integrations खोलें, खाता ढूंढें और Disconnect दबाएं। इससे संग्रहीत कुंजी तुरंत हट जाती है। जो कुछ भी इसका उपयोग कर रहा था वह अपनी अगली कार्रवाई पर रुक जाता है, और जो स्क्रीन इस पर निर्भर थीं वे चुपचाप विफल होने के बजाय ऐसा होने की सूचना देती हैं।

डिस्कनेक्ट करने से वह पूर्ववत नहीं होता जो पहले ही किया जा चुका है — आपके खाते पर हमारे द्वारा बदले गए रिकॉर्ड, डिप्लॉयमेंट्स या सेटिंग्स वैसे ही रहते हैं जैसे वे हैं। यदि आपको लगता है कि कुंजी स्वयं लीक हो गई होगी, तो इसे वेंडर के यहां भी रद्द करें; डिस्कनेक्ट करने से हमारी प्रतिलिपि हटती है, उनकी नहीं।