Jalankan inferensi AI di akun Gcore Anda sendiri

Manfaat menghubungkannya untuk Anda

Menghubungkan Gcore Everywhere Inference menghadirkan deployment inferensi Anda — endpoint model yang Anda jalankan di akun Gcore Anda sendiri, dan apa yang dilayani oleh masing-masing endpoint — serta opsi GPU yang tersedia untuk Anda ke dalam dasbor Zinn® Anda.

Sebelum Anda mulai

Akun Gcore milik Anda sendiri, dengan Everywhere Inference yang telah diaktifkan di dalamnya. Ini hanya berlaku untuk skema bawa akun sendiri (bring-your-own): kami tidak menjual kembali Everywhere Inference, sehingga produk, kontrak, dan tagihan berada di antara Anda dan Gcore, dan apa yang Anda jalankan di sana ditagihkan ke akun Gcore Anda, bukan ke paket Zinn® Anda.

1. Buat kunci di Gcore

Di Gcore Customer Portal, buka avatar Anda di kanan atas, lalu Profile → API tokens → Create token. Beri nama, pilih Never expire atau tanggal kedaluwarsa, dan berikan peran untuk setiap produk yang dibutuhkannya. Gcore hanya menampilkan token satu kali; salin token tersebut saat itu juga.

Token yang sama berfungsi untuk setiap produk Gcore yang Anda hubungkan, jadi jika Anda telah menghubungkan satu produk Gcore, Anda dapat menempelkan token yang sama lagi — asalkan perannya juga mencakup produk ini. Token tidak dapat diberikan peran yang lebih tinggi daripada yang dimiliki login Anda sendiri.

Berikan token peran untuk Cloud. Anda juga memerlukan ID numerik proyek Gcore Cloud tempat deployment Anda berada — layanan inferensi Gcore diatur berdasarkan proyek, sehingga token saja tidak dapat mencantumkannya. ID ini ditampilkan untuk proyek tersebut di bagian Gcore Cloud pada Customer Portal.

2. Hubungkan di sini

Buka Integrations di dasbor Anda dan pilih Connect an account. Pilih AI inference sebagai grup dan Gcore Everywhere Inference sebagai akun, isi API token serta Project ID, lalu tekan Connect account.

Kami menguji apa yang Anda tempelkan sebelum apa pun disimpan. Kunci yang tidak berfungsi tidak akan pernah disimpan, dan respons akan memberitahukan apa masalahnya. Kunci yang berfungsi disimpan dalam keadaan terenkripsi di brankas rahasia kami — tidak pernah di basis data kami — dan tidak akan pernah ditampilkan lagi, bahkan kepada Anda.

Apa yang terjadi selanjutnya

• Deployment Anda dan opsi GPU yang ditawarkan proyek Anda dicantumkan di bawah Your own services, yang dapat diakses dari tombol koneksi Open your own services pada Integrations.
• Deployment berjalan dan ditagihkan pada akun Gcore Anda, berdasarkan kontrak Anda dengan Gcore.

Jika tidak berhasil terhubung

Tertulis bahwa produk belum diaktifkan. Token valid, tetapi Everywhere Inference belum diaktifkan untuk akun Gcore tersebut — Gcore kemudian menolak setiap pembacaan. Aktifkan di Gcore Customer Portal (atau minta Gcore untuk melakukannya), lalu hubungkan kembali. Token yang perannya tidak mencakup Everywhere Inference akan menghasilkan penolakan yang sama; buat token yang mencakupnya.

Terhubung tetapi tidak mencantumkan apa pun. Project ID mengarah ke proyek tanpa deployment, atau ke proyek yang tidak dapat dijangkau oleh token. Periksa apakah itu merupakan proyek tempat deployment Anda berada.

Tertulis bahwa kunci ditolak. Hampir selalu karena salah satu dari tiga hal: spasi atau jeda baris yang ikut tersalin, kunci yang telah kedaluwarsa, atau kunci yang telah dicabut atau dibuat ulang setelah Anda menyalinnya. Buat kunci baru dan tempelkan kembali.

Terhubung, tetapi kemudian terjadi kegagalan. Kunci berhasil diautentikasi tetapi tidak memiliki izin yang dibutuhkan tindakan tersebut. Buat kunci baru dengan izin yang tercantum di atas, lalu putuskan koneksi lama dan hubungkan kunci yang baru.

Memutuskan koneksi

Buka Integrations, temukan akun tersebut dan tekan Disconnect. Tindakan tersebut akan langsung menghapus kunci yang tersimpan. Apa pun yang menggunakannya akan berhenti pada tindakan berikutnya, dan layar yang bergantung padanya akan menyatakan hal tersebut alih-alih gagal tanpa pemberitahuan.

Memutuskan koneksi tidak membatalkan apa yang telah dilakukan — catatan, deployment, atau pengaturan yang kami ubah di akun Anda akan tetap seperti semula. Jika Anda merasa kunci itu sendiri mungkin telah bocor, cabut juga kunci tersebut di vendor; memutuskan koneksi hanya menghapus salinan kami, bukan salinan mereka.