तुमच्या स्वतःच्या Gcore खात्यावर AI इन्फरन्स चालवा

हे कनेक्ट केल्याने आपल्यासाठी काय होते

Gcore Everywhere Inference कनेक्ट केल्याने आपले इनफरन्स डिप्लॉयमेंट्स — जे मॉडेल एंडपॉइंट्स आपण आपल्या स्वतःच्या Gcore खात्यावर चालवता आणि त्यातील प्रत्येक काय सर्व्ह करत आहे ते — आणि आपल्यासाठी उपलब्ध असलेले GPU पर्याय आपल्या Zinn® डॅशबोर्डमध्ये येतात.

आपण सुरू करण्यापूर्वी

आपले स्वतःचे Gcore खाते, ज्यावर Everywhere Inference सक्षम केलेले असावे. हे केवळ ब्रिंग-युअर-ओन (स्वतःचे आणा) आधारावर आहे: आम्ही Everywhere Inference ची पुनर्विक्री करत नाही, त्यामुळे उत्पादन, करार आणि बिल हे आपल्या आणि Gcore दरम्यान असतात, आणि आपण तेथे जे चालवता त्याचे शुल्क आपल्या Gcore खात्यावर आकारले जाते, आपल्या Zinn® प्लॅनवर नाही.

१. Gcore वर की (key) तयार करा

Gcore Customer Portal मध्ये, वरच्या उजव्या बाजूला आपल्या अवतारवर क्लिक करा, नंतर Profile → API tokens → Create token वर जा. त्याला नाव द्या, Never expire किंवा कालबाह्यता तारीख निवडा, आणि त्याला आवश्यक असलेल्या प्रत्येक उत्पादनासाठी एक रोल द्या. Gcore तो टोकन एकदाच दाखवतो; तेव्हाच तो कॉपी करा.

हाच टोकन आपण कनेक्ट करत असलेल्या प्रत्येक Gcore उत्पादनासाठी काम करतो, त्यामुळे जर आपण आधीच एखादे Gcore उत्पादन कनेक्ट केले असेल तर आपण तोच टोकन पुन्हा पेस्ट करू शकता — जर त्याचे रोल्स या उत्पादनास देखील समाविष्ट करत असतील तर. टोकनला आपल्या स्वतःच्या लॉगिनपेक्षा उच्च रोल दिला जाऊ शकत नाही.

टोकनला Cloud साठी एक रोल द्या. आपल्याला Gcore Cloud प्रकल्पाचा संख्यात्मक आयडी (ID) देखील आवश्यक आहे ज्यामध्ये आपले डिप्लॉयमेंट्स आहेत — Gcore ची इनफरन्स सेवा प्रकल्पानुसार व्यवस्थापित केली जाते, त्यामुळे केवळ टोकन त्यांची यादी करू शकत नाही. हे Customer Portal च्या Gcore Cloud विभागात प्रकल्पासाठी दाखवले जाते.

२. ते येथे कनेक्ट करा

आपल्या डॅशबोर्डमध्ये Integrations उघडा आणि Connect an account निवडा. गट म्हणून AI inference आणि खाते म्हणून Gcore Everywhere Inference निवडा, API token आणि Project ID भरा आणि Connect account दाबा.

काहीही सेव्ह करण्यापूर्वी आपण जे पेस्ट केले आहे त्याची आम्ही चाचणी करतो. काम न करणारी की कधीही संग्रहित केली जात नाही, आणि उत्तरामध्ये त्यात काय चूक होती ते सांगितले जाते. काम करणारी की आमच्या सिक्रेट्स व्हॉल्टमध्ये एन्क्रिप्ट करून ठेवली जाते — आमच्या डेटाबेसमध्ये कधीही नाही — आणि ती पुन्हा कधीही, अगदी आपल्यालाही दाखवली जात नाही.

पुढे काय होते

• आपले डिप्लॉयमेंट्स आणि आपला प्रकल्प देत असलेले GPU पर्याय Your own services अंतर्गत सूचीबद्ध केले जातात, जिथे Integrations वरील कनेक्शनच्या Open your own services बटणावरून पोहोचता येते.
• डिप्लॉयमेंट्स आपल्या Gcore खात्यावर, Gcore सोबतच्या आपल्या करारानुसार चालतात आणि त्यांचे बिल आकारले जाते.

जर ते कनेक्ट झाले नाही तर

उत्पादन सक्षम केलेले नाही असे दाखवले जाते. टोकन वैध आहे, परंतु त्या Gcore खात्यासाठी Everywhere Inference चालू केलेले नाही — Gcore नंतर प्रत्येक वाचन नाकारतो. Gcore Customer Portal मध्ये ते सक्षम करा (किंवा Gcore ला तसे करण्यास सांगा), नंतर पुन्हा कनेक्ट करा. ज्या टोकनच्या रोलमध्ये Everywhere Inference समाविष्ट नाही तो देखील असाच नकार दर्शवतो; समाविष्ट असलेला एक टोकन तयार करा.

ते कनेक्ट होते परंतु काहीही सूचीबद्ध करत नाही. Project ID कोणत्याही डिप्लॉयमेंट्स नसलेल्या प्रकल्पाकडे किंवा टोकन पोहोचू शकत नसलेल्या प्रकल्पाकडे निर्देश करतो. आपले डिप्लॉयमेंट्स ज्या प्रकल्पात आहेत तोच हा प्रकल्प आहे याची खात्री करा.

की नाकारली गेली असे दाखवले जाते. हे बहुधा तीनपैकी एक कारण असते: सोबत कॉपी झालेली स्पेस किंवा लाइन ब्रेक, कालबाह्य झालेली की, किंवा आपण ती कॉपी केल्यानंतर मागे घेतलेली (revoked) किंवा पुन्हा तयार केलेली की. एक नवीन की तयार करा आणि ती पुन्हा पेस्ट करा.

ते कनेक्ट होते, परंतु नंतर काहीतरी अयशस्वी होते. की प्रमाणीकृत होते परंतु क्रियेसाठी आवश्यक असलेली परवानगी त्यात नसते. वर सूचीबद्ध केलेल्या परवानग्यांसह एक नवीन की तयार करा, नंतर जुने कनेक्शन डिस्कनेक्ट करा आणि नवीन की कनेक्ट करा.

डिस्कनेक्ट करत आहे

Integrations उघडा, खाते शोधा आणि Disconnect दाबा. यामुळे संग्रहित केलेली की त्वरित हटवली जाते. तिचा वापर करणारी कोणतीही गोष्ट तिच्या पुढील क्रियेवर थांबते, आणि त्यावर अवलंबून असलेल्या स्क्रीन्स शांतपणे अयशस्वी होण्याऐवजी तसा संदेश दर्शवतात.

डिस्कनेक्ट केल्याने आधीच केलेले काम पूर्ववत होत नाही — आम्ही आपल्या खात्यावर बदललेले रेकॉर्ड्स, डिप्लॉयमेंट्स किंवा सेटिंग्ज जसे आहेत तसेच राहतात. जर आपल्याला वाटत असेल की की स्वतः लीक झाली असावी, तर ती व्हेंडरकडे देखील रद्द (revoke) करा; डिस्कनेक्ट केल्याने आमची प्रत काढून टाकली जाते, त्यांची नाही.