Run AI inference on your own Gcore account

इसे कनेक्ट करने से आपको क्या लाभ मिलता है

Gcore Everywhere Inference को कनेक्ट करने से आपके inference deployments (वे मॉडल एंडपॉइंट्स जिन्हें आप अपने Gcore अकाउंट पर चलाते हैं, और उनमें से प्रत्येक क्या सर्व कर रहा है) और आपके लिए उपलब्ध GPU options आपके Zinn® डैशबोर्ड में आ जाते हैं।

शुरू करने से पहले

आपका अपना Gcore अकाउंट, जिस पर Everywhere Inference सक्षम हो। यह पूरी तरह से आपका अपना (bring-your-own) है: हम Everywhere Inference को रीसेल नहीं करते हैं, इसलिए उत्पाद, अनुबंध और बिल आपके और Gcore के बीच हैं, और वहाँ जो कुछ भी आप चलाते हैं उसका शुल्क आपके Gcore अकाउंट से लिया जाता है, आपके Zinn® प्लान से नहीं।

1. Gcore पर कुंजी बनाएँ

Gcore कस्टमर पोर्टल में, शीर्ष दाईं ओर अपने अवतार को खोलें, फिर Profile → API tokens → Create token पर जाएँ। इसे एक नाम दें, Never expire या कोई समाप्ति तिथि चुनें, और इसे प्रत्येक उस उत्पाद के लिए एक भूमिका (role) दें जिसकी इसे आवश्यकता है। Gcore टोकन को केवल एक बार दिखाता है; तब इसे कॉपी कर लें।

वही टोकन आपके द्वारा कनेक्ट किए जाने वाले प्रत्येक Gcore उत्पाद के लिए काम करता है, इसलिए यदि आपने पहले ही किसी Gcore उत्पाद को कनेक्ट कर लिया है तो आप उसी टोकन को फिर से पेस्ट कर सकते हैं — बशर्ते कि उसकी भूमिकाएँ इस उत्पाद को भी कवर करती हों। किसी टोकन को आपके अपने लॉगिन की तुलना में उच्च भूमिका नहीं दी जा सकती है।

टोकन को Cloud के लिए एक भूमिका दें। आपको Gcore क्लाउड प्रोजेक्ट का संख्यात्मक ID of the Gcore Cloud project भी चाहिए जिसमें आपके deployments मौजूद हैं — Gcore की इन्फेरेंस सेवा प्रोजेक्ट के अनुसार व्यवस्थित होती है, इसलिए केवल टोकन उन्हें सूचीबद्ध नहीं कर सकता है। यह कस्टमर पोर्टल के Gcore Cloud अनुभाग में प्रोजेक्ट के लिए दिखाया जाता है।

2. इसे यहाँ कनेक्ट करें

अपने डैशबोर्ड में Integrations खोलें और Connect an account चुनें। समूह के रूप में AI inference और अकाउंट के रूप में Gcore Everywhere Inference चुनें, API token और Project ID भरें, और Connect account दबाएँ।

कुछ भी सहेजने से पहले हम आपके द्वारा पेस्ट की गई सामग्री का परीक्षण करते हैं। जो कुंजी काम नहीं करती है उसे कभी भी संग्रहीत नहीं किया जाता है, और उत्तर में यह बताया जाता है कि उसमें क्या खराबी थी। जो कुंजी काम करती है उसे हमारे सीक्रेट्स वॉल्ट में एन्क्रिप्टेड रखा जाता है — हमारे डेटाबेस में कभी नहीं — और इसे फिर से कभी नहीं दिखाया जाता है, यहाँ तक कि आपको भी नहीं।

आगे क्या होता है

• आपके deployments और आपके प्रोजेक्ट द्वारा प्रदान किए जाने वाले GPU options को Your own services के अंतर्गत सूचीबद्ध किया जाता है, जिस तक Integrations पर कनेक्शन के Open your own services बटन से पहुँचा जाता है।
• Deployments आपके Gcore अकाउंट पर, Gcore के साथ आपके अनुबंध के तहत चलते हैं और बिल किए जाते हैं।

यदि यह कनेक्ट नहीं होता है

यह कहता है कि उत्पाद सक्षम नहीं है। टोकन मान्य है, लेकिन उस Gcore अकाउंट के लिए Everywhere Inference चालू नहीं है — ऐसी स्थिति में Gcore हर रीड से इनकार कर देता है। इसे Gcore कस्टमर पोर्टल में सक्षम करें (या Gcore से कहें), फिर से कनेक्ट करें। जिस टोकन की भूमिका में Everywhere Inference शामिल नहीं है, वह भी ऐसा ही इनकार उत्पन्न करता है; एक ऐसा टोकन बनाएँ जिसमें यह शामिल हो।

यह कनेक्ट हो जाता है लेकिन कुछ भी सूचीबद्ध नहीं करता है। Project ID ऐसे प्रोजेक्ट की ओर इशारा करती है जिसमें कोई deployments नहीं हैं, या ऐसे प्रोजेक्ट की ओर इशारा करती है जिस तक टोकन नहीं पहुँच सकता है। जाँच लें कि क्या यह वही प्रोजेक्ट है जिसमें आपके deployments हैं।

यह कहता है कि कुंजी अस्वीकार कर दी गई थी। लगभग हमेशा इन तीन चीजों में से एक होती है: इसके साथ कॉपी किया गया कोई स्पेस या लाइन ब्रेक, कोई ऐसी कुंजी जिसकी समय सीमा समाप्त हो गई है, या कोई ऐसी कुंजी जिसे आपके द्वारा कॉपी करने के बाद रद्द या पुनर्जीवित किया गया था। एक नई कुंजी बनाएँ और उसे फिर से पेस्ट करें।

यह कनेक्ट हो जाता है, लेकिन बाद में कुछ विफल हो जाता है। कुंजी प्रमाणित हो जाती है लेकिन इसमें उस अनुमति की कमी होती है जिसकी कार्रवाई को आवश्यकता होती है। ऊपर सूचीबद्ध अनुमतियों के साथ एक नई कुंजी बनाएँ, फिर पुराने कनेक्शन को डिस्कनेक्ट करें और नई कुंजी कनेक्ट करें।

डिस्कनेक्ट करना

Integrations खोलें, अकाउंट ढूँढें और Disconnect दबाएँ। इससे संग्रहीत कुंजी तुरंत हट जाती है। जो भी इसका उपयोग कर रहा था वह अपनी अगली कार्रवाई पर रुक जाता है, और जिन स्क्रीन को इस पर निर्भर रहना पड़ता था वे चुपचाप विफल होने के बजाय ऐसा होने की बात बताती हैं।

डिस्कनेक्ट करने से वह पूर्ववत नहीं होता है जो पहले ही किया जा चुका है — रिकॉर्ड, deployments या सेटिंग्स जिन्हें हमने आपके अकाउंट पर बदला था, वे वैसे ही रहते हैं। यदि आपको लगता है कि कुंजी स्वयं लीक हो गई होगी, तो इसे वेंडर के यहाँ भी रद्द कर दें; डिस्कनेक्ट करने से हमारी कॉपी हट जाती है, उनकी नहीं।