Comprendre nos estimations.
Une source, un calcul et une mesure ne racontent pas la même chose.
Ce que l’éditeur décrit
Architecture, paramètres, licence et contexte proviennent des fiches et fichiers de configuration officiels. Les liens et la date de consultation apparaissent sur chaque fiche.
Ce que NVNC estime
La mémoire résulte d’hypothèses explicites. Elle aide à choisir des candidats ; elle ne mesure ni la vitesse ni la qualité.
Ce qu’un membre déclare
Une mesure est liée au modèle, au matériel, au runner, à la quantification et au contexte. Un contrôle de cohérence ne prouve pas l’authenticité.
Le moteur mémoire · nvnc-memory-v0.1
Poids = paramètres × bits / 8 × 1,12
Cache KV = 2 × couches × têtes KV × dimension de tête × contexte × séquences × 2 octets
Mémoire estimée = (poids + cache KV + 0,75 Gio) × 1,15Conversion en Gio : division par 2³⁰. La marge de 12 % sur les poids représente une approximation des métadonnées de quantification. Les 0,75 Gio de runtime et la marge de 15 % sont des hypothèses NVNC, à confronter aux mesures.
Profils simples : 4 Gio réservés au système sur Apple/CPU, 1 Gio sur GPU dédié. Cela ne mesure pas la mémoire libre réelle. Le calcul suppose un chargement complet, un cache KV FP16, sans offload CPU et sans autres tâches lourdes.
Le POC couvre seulement les modèles denses du catalogue. Il n’est pas un moteur universel pour MoE, vision, entraînement ou exécution distribuée. Les profils de quantification utilisent des largeurs moyennes approximatives. Les variantes mixtes K_S/K_M/K_L et leurs packages exacts peuvent différer ; leur disponibilité doit être vérifiée. Le moteur sélectionné ne modifie pas encore l’hypothèse commune de runtime.
Comparaisons et confiance
Les résultats sont déclaratifs. Les contrôles portent sur le schéma, les bornes, le contexte configuré, la cohérence débit/tokens/durée et les doublons. Les valeurs de mémoire supérieures au profil ou les débits supérieurs à 500 tok/s sont signalés, sans verdict de fraude.
Le schéma natif LLM-Benchmarker n’a pas été fourni : le format POC est temporaire, explicite et versionné. La détection statistique, la modération administrative et la synchronisation du catalogue constituent les étapes suivantes.
Référence conceptuelle : Calculateur-Local-IA