귀하의 Gcore 계정에서 AI 추론을 실행하세요

연결을 통해 얻을 수 있는 이점

Gcore Everywhere Inference를 연결하면 사용자의 추론 배포(사용자 고유의 Gcore 계정에서 실행하는 모델 엔드포인트 및 각 엔드포인트가 제공하는 서비스)와 사용 가능한 GPU 옵션이 Zinn® 대시보드에 표시됩니다.

시작하기 전에

Everywhere Inference가 활성화된 사용자 소유의 Gcore 계정이 필요합니다. 이 기능은 자체 라이선스 방식(bring-your-own) 전용입니다. 당사는 Everywhere Inference를 재판매하지 않으므로 제품, 계약 및 청구는 귀하와 Gcore 간에 이루어지며, 해당 서비스에서 실행되는 항목은 Zinn® 요금제가 아닌 Gcore 계정으로 청구됩니다.

1. Gcore에서 키 생성

Gcore 고객 포털의 오른쪽 상단에서 아바타를 열고 프로필 → API 토큰 → 토큰 생성으로 이동합니다. 이름을 지정하고 만료 없음 또는 만료 날짜를 선택한 다음, 필요한 각 제품에 대한 역할을 부여합니다. Gcore는 토큰을 한 번만 표시하므로 이때 복사해야 합니다.

동일한 토큰이 연결하는 모든 Gcore 제품에 작동하므로, 이미 하나의 Gcore 제품을 연결한 경우 해당 제품에 대한 역할도 포함되어 있다면 동일한 토큰을 다시 붙여넣을 수 있습니다. 토큰에는 사용자 로그인 계정의 권한보다 높은 역할을 부여할 수 없습니다.

토큰에 Cloud 역할을 부여합니다. 또한 배포가 위치한 Gcore Cloud 프로젝트의 숫자 ID도 필요합니다. Gcore의 추론 서비스는 프로젝트별로 구성되므로 토큰만으로는 이를 나열할 수 없습니다. 이 ID는 고객 포털의 Gcore Cloud 섹션에서 프로젝트용으로 표시됩니다.

2. 여기에 연결

대시보드에서 통합을 열고 계정 연결을 선택합니다. 그룹으로 AI 추론, 계정으로 Gcore Everywhere Inference를 선택하고 API 토큰과 Project ID를 입력한 후 계정 연결을 누릅니다.

저장하기 전에 입력한 내용을 테스트합니다. 작동하지 않는 키는 절대 저장되지 않으며, 오류 원인이 답변에 표시됩니다. 정상 작동하는 키는 데이터베이스가 아닌 보안 자격 증명 볼트에 암호화되어 보관되며, 본인을 포함하여 다시는 표시되지 않습니다.

다음 단계

• 배포 및 프로젝트에서 제공하는 GPU 옵션은 통합의 Open your own services 버튼에서 액세스할 수 있는 **Your

own services** 아래에 나열됩니다.

• 배포는 Gcore와의 계약에 따라 Gcore 계정에서 실행되고 청구됩니다.

연결되지 않는 경우

제품이 활성화되지 않았다는 메시지가 표시되는 경우. 토큰은 유효하지만 해당 Gcore 계정에서 Everywhere Inference가 켜져 있지 않아 Gcore가 모든 읽기 요청을 거부하는 경우입니다. Gcore 고객 포털에서 (또는 Gcore에 요청하여) 활성화한 다음 다시 연결하십시오. Everywhere Inference가 포함되지 않은 역할을 가진 토큰도 동일한 거부를 발생시키므로 해당 역할이 포함된 토큰을 새로 생성하십시오.

연결되지만 아무것도 나열되지 않는 경우. Project ID가 배포가 없는 프로젝트를 가리키고 있거나 토큰이 도달할 수 없는 프로젝트를 가리키고 있는 경우입니다. 배포가 있는 프로젝트가 맞는지 확인하십시오.

키가 거부되었다는 메시지가 표시되는 경우. 거의 다음 세 가지 중 하나입니다. 공백이나 줄바꿈이 함께 복사된 경우, 만료된 키, 또는 복사한 후에 취소되거나 재생성된 키. 새로운 키를 생성하여 다시 붙여넣으십시오.

연결은 되었지만 나중에 작업이 실패하는 경우. 키 인증은 되지만 작업에 필요한 권한이 부족한 경우입니다. 위에 나열된 권한으로 새 키를 생성한 후 기존 연결을 해제하고 새 키로 연결하십시오.

연결 해제

통합을 열고 해당 계정을 찾아 연결 해제를 누릅니다. 그러면 저장된 키가 즉시 삭제됩니다. 이를 사용하던 모든 항목은 다음 작업 시 중지되며, 조용히 실패하는 대신 이를 의존하던 화면에 관련 내용이 표시됩니다.

연결을 해제한다고 해서 이미 수행된 작업이 취소되지는 않습니다. 계정에서 변경한 기록, 배포 또는 설정은 그대로 유지됩니다. 키 자체가 유출되었을 수 있다고 생각되는 경우 공급업체에서도 해당 키를 취소하십시오. 연결 해제는 당사의 복사본만 제거하며 상대방의 복사본은 제거하지 않습니다.