Standard
25,99 $US
Ou payez 23,20 € · 19,43 £GB au tarif d’aujourd’hui — le tarif est bloqué lorsque vous l’ajoutez à votre panier.
Livré en 2 jours
Révisions incluses : 0
Audit de compatibilité du matériel local et des modèles
Vendu par Zinn Digital
Un audit rapide de compatibilité matérielle qui révèle quels LLM locaux et niveaux de quantification votre ordinateur peut réellement exécuter.
En un coup d’œil
- Prix
- 25,99 $US
- Distribution
- Livré en 2 jours
- Vendeur
- Zinn Digital
- Vendu
- 0
À propos de cette annonce
L'exécution locale de grands modèles de langage et de pipelines augmentés par récupération exige une adéquation étroite entre le modèle choisi et le matériel dont vous disposez. Lorsque le nombre de paramètres dépasse votre mémoire graphique ou la mémoire vive de votre système, le débit peut s'effondrer presque totalement lorsque votre système d'exploitation commence à utiliser le fichier d'échange sur le disque.
Ce service vous offre une vérification complète de la compatibilité matérielle avant de vous engager dans tout téléchargement ou installation. Nous examinons votre machine réelle — Apple Silicon, station de travail équipée de NVIDIA CUDA, ou serveur Windows ou Linux standard — et déterminons comment en tirer le meilleur parti localement.
Ce que nous vérifions
- Limites de mémoire graphique : nous cartographions votre VRAM dédiée pour établir le plus grand modèle que vous pouvez exécuter, qu'il s'agisse d'une version à 7B, 13B ou 34B paramètres.
- Allocation de mémoire système : nous calculons vos seuils d'inférence CPU et vos limites de déchargement pour les machines sans GPU dédié, ou lorsque la mémoire est partagée.
- Conseils de quantification : nous suggérons un paramètre de quantification approprié — généralement Q4_K_M, Q5_K_M ou Q8_0 — pour équilibrer la vitesse de traitement et la qualité du modèle pour votre configuration.
- Plafond de la fenêtre de contexte : nous calculons le nombre maximal sécurisé de jetons afin qu'une lourde récupération de documents ne provoque pas de défaillance par dépassement de mémoire sur votre système.
Plutôt que de deviner quels poids open source fonctionneront, ou de vous demander pourquoi votre configuration locale est lente, vous recevez un plan adapté à votre matériel, élaboré par des personnes qui travaillent directement avec ces équipements. Pour commencer, envoyez-nous le domaine concerné par la commande ainsi qu'un descriptif de votre configuration et de vos objectifs.
Ce que vous pouvez acheter
Aucun compte n’est nécessaire au préalable — le vôtre est créé lors du paiement. Nous conservons les fonds jusqu’à ce que vous acceptiez le travail.