Jalankan inferensi AI di akun Gcore Anda sendiri

Apa yang Anda dapatkan dengan menghubungkannya

Menghubungkan Gcore Everywhere Inference membawa deployment inferensi Anda — endpoint model yang Anda jalankan di akun Gcore Anda sendiri, dan apa yang dilayani oleh masing-masing endpoint — serta opsi GPU yang tersedia untuk Anda ke dalam dasbor Zinn® Anda.

Sebelum Anda mulai

Akun Gcore Anda sendiri, dengan Everywhere Inference yang diaktifkan di dalamnya. Ini adalah metode bawa-sendiri (bring-your-own): kami tidak menjual ulang Everywhere Inference, sehingga produk, kontrak, dan tagihan sepenuhnya antara Anda dan Gcore, dan apa yang Anda jalankan di sana akan ditagihkan ke akun Gcore Anda, bukan ke paket Zinn® Anda.

1. Buat kunci di Gcore

Di Portal Pelanggan Gcore, buka avatar Anda di kanan atas, lalu Profil → Token API → Buat token. Beri nama token tersebut, pilih Tidak pernah kedaluwarsa atau tanggal kedaluwarsa, dan berikan peran untuk setiap produk yang dibutuhkannya. Gcore menampilkan token tersebut hanya sekali; salin token tersebut saat itu juga.

Token yang sama dapat digunakan untuk setiap produk Gcore yang Anda hubungkan, jadi jika Anda telah menghubungkan satu produk Gcore, Anda dapat menempelkan token yang sama lagi — dengan syarat peran token tersebut mencakup produk ini juga. Token tidak dapat diberi peran yang lebih tinggi daripada hak akses akun login Anda sendiri.

Berikan peran untuk Cloud pada token tersebut. Anda juga memerlukan ID numerik dari proyek Gcore Cloud tempat deployment Anda berada — layanan inferensi Gcore diatur berdasarkan proyek, sehingga token saja tidak dapat mencantumkannya. ID tersebut ditampilkan untuk proyek di bagian Gcore Cloud pada Portal Pelanggan.

2. Hubungkan di sini

Buka Integrasi di dasbor Anda dan pilih Hubungkan akun. Pilih Inferensi AI sebagai grup dan Gcore Everywhere Inference sebagai akun, isi Token API dan ID Proyek, lalu tekan Hubungkan akun.

Kami menguji data yang Anda tempelkan sebelum ada yang disimpan. Kunci yang tidak berfungsi tidak akan pernah disimpan, dan pesan yang muncul akan menjelaskan letak kesalahannya. Kunci yang berfungsi disimpan secara terenkripsi di brankas rahasia kami — tidak pernah di dalam database kami — dan tidak akan pernah ditampilkan lagi, bahkan kepada Anda sendiri.

Apa yang terjadi selanjutnya

• Deployment Anda dan opsi GPU yang ditawarkan oleh proyek Anda akan tercantum di bawah Layanan Anda sendiri, yang dapat diakses dari tombol Buka layanan Anda sendiri pada koneksi di halaman Integrasi.
• Deployment dijalankan dan ditagih pada akun Gcore Anda, di bawah kontrak Anda dengan Gcore.

Jika gagal terhubung

Pesan menyatakan produk belum diaktifkan. Token tersebut valid, tetapi Everywhere Inference belum diaktifkan untuk akun Gcore tersebut — oleh karena itu Gcore menolak setiap permintaan baca (read). Aktifkan di Portal Pelanggan Gcore (atau minta Gcore untuk mengaktifkannya), lalu hubungkan kembali. Token yang perannya tidak mencakup Everywhere Inference akan menghasilkan penolakan yang sama; buatlah token baru yang mencakupnya.

Terhubung tetapi tidak menampilkan apa pun. ID Proyek mengarah ke proyek yang tidak memiliki deployment, atau ke proyek yang tidak dapat dijangkau oleh token. Periksa kembali apakah itu adalah proyek tempat deployment Anda berada.

Pesan menyatakan kunci ditolak. Hampir selalu disebabkan oleh salah satu dari tiga hal berikut: adanya spasi atau baris baru yang ikut tersalin, kunci yang telah kedaluwarsa, atau kunci yang telah dicabut atau dibuat ulang setelah Anda menyalinnya. Buat kunci baru dan tempelkan kembali.

Terhubung, tetapi ada proses selanjutnya yang gagal. Kunci berhasil diautentikasi tetapi tidak memiliki izin yang diperlukan oleh tindakan tersebut. Buat kunci baru dengan izin yang tercantum di atas, lalu putuskan koneksi yang lama dan hubungkan kunci yang baru.

Memutuskan koneksi

Buka Integrasi, cari akun tersebut, dan tekan Putuskan koneksi. Tindakan ini akan langsung menghapus kunci yang tersimpan. Segala hal yang menggunakannya akan berhenti pada tindakan berikutnya, dan layar yang bergantung padanya akan menampilkan pemberitahuan alih-alih mengalami kegagalan secara diam-diam.

Memutuskan koneksi tidak membatalkan apa yang telah dilakukan sebelumnya — catatan, deployment, atau pengaturan yang telah kami ubah pada akun Anda akan tetap seperti apa adanya. Jika Anda menduga kunci tersebut mungkin telah bocor, cabut juga kunci tersebut di pihak vendor; memutuskan koneksi hanya menghapus salinan milik kami, bukan milik mereka.