Laboratoire /Hardware
Catalogue NVNC
COMMUNAUTÉ FRANCOPHONE · IA LOCALE

NVIDIA · 24 Go VRAM

Comprendre, choisir, tester et partager l’IA concrètement.

PROFIL MATÉRIEL · MÉMOIRE

24 Gio VRAM dédiée

Profil GPU générique de 24 Go de VRAM. La RAM système reste distincte de la VRAM.

Explorer avec ce profil

Compatibilité théorique · Q4 · 4 096 tokens

ModèleMémoire estiméeMémoire disponibleCompatibilité
gemma-4-E4B-it5,8 Gio23 GioCompatible en théorie
Phi-3.5 Mini4,9 Gio23 GioCompatible en théorie
Qwen2.5 14B10,5 Gio23 GioCompatible en théorie
Qwen2.5 14B · bartowski GGUF10,5 Gio23 GioCompatible en théorie
Qwen2.5 7B5,7 Gio23 GioCompatible en théorie
Qwen2.5 Coder 7B5,7 Gio23 GioCompatible en théorie

Résultats déclarés sur ce profil

Chargement des mesures…

LE MOTEUR DE COMPATIBILITÉ NVNC

Comment ça fonctionne ?

Votre besoin sélectionne des candidats. Votre matériel détermine la mémoire disponible. Le moteur et la quantification définissent le profil d’inférence.

Profil actuel : Ollama · Q4_K_M
4 096 tokens · 1 séquence(s) · 12 Gio disponibles selon le profil.

Une estimation explicite

Poids du modèle + cache KV FP16 + 0,75 Gio de runtime, puis 15 % de marge. Les poids utilisent une largeur moyenne approximative et une marge de 12 %.

Les variantes K_S, K_M et K_L peuvent mélanger plusieurs précisions. La taille exacte du package, les kernels et le backend doivent être vérifiés. Cette liste de profils ne garantit pas qu’un package existe pour chaque modèle.

La théorie et les mesures restent distinctes

La compatibilité mémoire ne prédit ni la vitesse ni la qualité. Les benchmarks déclarés précisent le contexte réel, sans être automatiquement certifiés.

Consulter la méthodologie complète

Comparer les modèles

Même quantification et même contexte. Aucune note de qualité supposée.

Critère
Paramètres
Contexte configuré
Mémoire estimée
Compatibilité
Licence
Usages