Phi-3.5 Mini
Microsoft
Phi-3.5 · 3,8B
Un modèle compact orienté raisonnement. Attention : son cache KV peut devenir volumineux lorsque le contexte augmente, malgré des poids légers.
Estimer la mémoire
Packages GGUF : vérifier le tag et la quantification réellement distribuée.
Batch 1 · Cache KV FP16 · Marge 15 %. Le format exact de quantification et le runtime peuvent faire varier le résultat. Le runtime conserve ici une hypothèse commune de 0,75 Gio.
À explorer pour…
Ces usages s’appuient sur les capacités annoncées. Ils ne constituent pas une évaluation comparative ni une garantie de résultat pour votre tâche.
Provenance
Fiche éditeur et config.json consultés le 06/10/2026. Paramètres arrondis selon la fiche éditeur. Catalogue initial manuel, sans synchronisation automatique.
Compatibilité agentique · avec quel harness ?
Chargement des notes…
Moyenne des dernières notes par membre. Ces retours ne remplacent pas une validation technique.
À vérifier · Aucun test de ce couple modèle / harness enregistré dans NVNC.
Connexion possible via l’API compatible Anthropic d’Ollama. Appels d’outils et contexte suffisants à vérifier pour chaque modèle.
DocumentationModèle d’origine et dérivés · 0 référencés
Estimation : Q4_K_M · 4 096 tokens de contexte · 1 séquence. Notes propres à chaque modèle, dernière note de chaque membre.
| Modèle / auteur | Type | Moyenne /5 | Compatibilité théorique | Compatibilité réelle déclarée |
|---|---|---|---|---|
| Phi-3.5 MiniMicrosoft | Original | Chargement… | 5.3 GioCompatible en théorie | Chargement… |
Dérivés Hugging Face chargés automatiquement. Recherche dans les entrées déjà chargées. Les filiations non renseignées ou indirectes peuvent manquer. Les dépôts externes n’ont pas encore de notes ni de profil mémoire validé dans NVNC.
Matériel compatible · estimation et mesures réelles
Estimation mémoire : Q4_K_M · 4 096 tokens de contexte · 1 séquence. Aucun débit théorique calculé. Les benchmarks ci-dessous conservent leur configuration propre.
| Matériel | Estimation mémoire | Mesures réelles déclarées |
|---|---|---|
| Apple Silicon · 16 Go | 5,3 Gio / 12 Gio disponiblesCompatible en théorie | Chargement… |
| Apple Silicon · 24 Go | 5,3 Gio / 20 Gio disponiblesCompatible en théorie | Chargement… |
| NVIDIA · 16 Go VRAM | 5,3 Gio / 15 Gio disponiblesCompatible en théorie | Chargement… |
| NVIDIA · 24 Go VRAM | 5,3 Gio / 23 Gio disponiblesCompatible en théorie | Chargement… |
| CPU · 32 Go RAM | 5,3 Gio / 28 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4060 · 8 Go VRAM | 5,3 Gio / 7 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4060 Ti 8 Go · 8 Go VRAM | 5,3 Gio / 7 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4060 Ti 16 Go · 16 Go VRAM | 5,3 Gio / 15 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4070 · 12 Go VRAM | 5,3 Gio / 11 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4070 SUPER · 12 Go VRAM | 5,3 Gio / 11 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4070 Ti · 12 Go VRAM | 5,3 Gio / 11 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4070 Ti SUPER · 16 Go VRAM | 5,3 Gio / 15 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4080 · 16 Go VRAM | 5,3 Gio / 15 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4080 SUPER · 16 Go VRAM | 5,3 Gio / 15 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 4090 · 24 Go VRAM | 5,3 Gio / 23 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 5050 · 8 Go VRAM | 5,3 Gio / 7 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 5060 · 8 Go VRAM | 5,3 Gio / 7 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 5060 Ti 8 Go · 8 Go VRAM | 5,3 Gio / 7 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 5060 Ti 16 Go · 16 Go VRAM | 5,3 Gio / 15 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 5070 · 12 Go VRAM | 5,3 Gio / 11 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 5070 Ti · 16 Go VRAM | 5,3 Gio / 15 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 5080 · 16 Go VRAM | 5,3 Gio / 15 Gio disponiblesCompatible en théorie | Chargement… |
| RTX 5090 · 32 Go VRAM | 5,3 Gio / 31 Gio disponiblesCompatible en théorie | Chargement… |
| H100 SXM · 80 Go VRAM | 5,3 Gio / 79 Gio disponiblesCompatible en théorie | Chargement… |
| H100 PCIe · 80 Go VRAM | 5,3 Gio / 79 Gio disponiblesCompatible en théorie | Chargement… |
| H200 · 141 Go VRAM | 5,3 Gio / 140 Gio disponiblesCompatible en théorie | Chargement… |
| NVIDIA DGX Spark · 128 Go unifiés | 5,3 Gio / 124 Gio disponiblesCompatible en théorie | Chargement… |
Benchmarks communautaires
Chargement des mesures…
J’ai testé ce modèle
Un avis par membre et par modèle. Votre nouvel avis remplace le précédent dans les moyennes.
Chargement…