본인의 Gcore 계정에서 AI 추론을 실행하세요

연결 시 제공되는 기능

Gcore Everywhere Inference를 연결하면 자체 Gcore 계정에서 실행 중인 모델 엔드포인트 및 각 엔드포인트가 제공하는 항목인 추론 배포와 이용 가능한 GPU 옵션이 Zinn® 대시보드로 가져와집니다.

시작하기 전에

Everywhere Inference가 활성화된 본인 소유의 Gcore 계정이 필요합니다. 이는 자체 보유 라이선스(BYO) 방식으로만 제공됩니다. 당사는 Everywhere Inference를 재판매하지 않으므로 제품, 계약 및 청구는 귀하와 Gcore 간에 이루어지며, 해당 환경에서 실행하는 작업에 대한 요금은 Zinn® 플랜이 아닌 Gcore 계정으로 청구됩니다.

1. Gcore에서 키 생성하기

Gcore 고객 포털의 오른쪽 상단에서 아바타를 연 다음, Profile → API tokens → Create token으로 이동하십시오. 이름을 지정하고 Never expire 또는 만료 날짜를 선택한 뒤, 필요한 각 제품에 맞는 역할을 부여하십시오. Gcore는 토큰을 한 번만 표시하므로, 이때 복사해 두십시오.

동일한 토큰이 연결하는 모든 Gcore 제품에서 작동하므로, 이미 하나의 Gcore 제품을 연결한 경우 해당 제품도 포함하는 역할이 지정되어 있다면 동일한 토큰을 다시 붙여넣을 수 있습니다. 토큰에는 귀하의 로그인 계정이 보유한 권한보다 더 높은 역할을 부여할 수 없습니다.

토큰에 Cloud 역할을 부여하십시오. 또한 배포가 상주하는 Gcore Cloud 프로젝트의 숫자 ID가 필요합니다. Gcore의 추론 서비스는 프로젝트별로 구성되므로 토큰만으로는 배포 목록을 가져올 수 없습니다. 이는 고객 포털의 Gcore Cloud 섹션에 있는 프로젝트 항목에 표시되어 있습니다.

2. 여기에서 연결하기

대시보드에서 Integrations를 열고 Connect an account를 선택하십시오. 그룹으로 AI inference를, 계정으로 Gcore Everywhere Inference를 선택한 후 API token 및 Project ID를 입력하고 Connect account를 누르십시오.

당사는 어떤 항목이든 저장하기 전에 붙여넣은 내용을 테스트합니다. 작동하지 않는 키는 절대로 저장되지 않으며, 응답을 통해 문제 내용이 안내됩니다. 작동하는 키는 데이터베이스가 아닌 당사의 시크릿 볼트에 암호화되어 보관되며, 귀하를 포함한 그 누구에게도 다시 표시되지 않습니다.

다음 단계

• 배포 및 프로젝트에서 제공하는 GPU 옵션은 Integrations에 있는 연결 항목의 Open your own services 버튼을 통해 접근할 수 있는 Your own services 아래에 나열됩니다.
• 배포는 Gcore와의 계약에 따라 귀하의 Gcore 계정에서 실행되고 청구됩니다.

연결되지 않는 경우

제품이 활성화되지 않았다고 표시되는 경우. 토큰은 유효하지만 해당 Gcore 계정에서 Everywhere Inference가 켜져 있지 않은 상태이며, 이 경우 Gcore는 모든 읽기 작업을 거부합니다. Gcore 고객 포털에서 활성화하거나(또는 Gcore에 요청) 다시 연결하십시오. 역할에 Everywhere Inference가 포함되지 않은 토큰도 동일하게 거부되므로, 해당 역할이 포함된 토큰을 생성하십시오.

연결은 되지만 아무것도 나열되지 않는 경우. Project ID가 배포가 없는 프로젝트를 가리키고 있거나 토큰으로 접근할 수 없는 프로젝트를 가리키고 있습니다. 배포가 포함된 프로젝트가 맞는지 확인하십시오.

키가 거부되었다고 표시되는 경우. 대부분 키와 함께 공백이나 줄 바꿈이 복사되었거나, 키가 만료되었거나, 복사한 후 키가 취소 또는 재발급된 세 가지 경우 중 하나입니다. 새 키를 생성하여 다시 붙여넣으십시오.

연결은 되지만 이후 작업이 실패하는 경우. 키 인증은 되었으나 해당 작업에 필요한 권한이 없습니다. 위에 나열된 권한을 가진 새 키를 생성한 후 이전 연결을 해제하고 새 키를 연결하십시오.

연결 해제

Integrations를 열고 해당 계정을 찾은 후 Disconnect를 누르십시오. 그러면 저장된 키가 즉시 삭제됩니다. 해당 키를 사용하던 모든 작업은 다음 작업 실행 시 중단되며, 해당 키에 의존하던 화면에는 조용히 실패하는 대신 관련 안내가 표시됩니다.

연결을 해제해도 이미 완료된 작업은 취소되지 않으며, 귀하의 계정에서 당사가 변경한 레코드, 배포 또는 설정은 그대로 유지됩니다. 키 자체가 유출된 것으로 의심되는 경우 공급업체 측에서도 키를 취소하십시오. 연결 해제는 당사에 저장된 사본만 삭제하며 공급업체 측의 키는 삭제하지 않습니다.