Qwen3 8B en déploiement local
Alibaba (Qwen) · sortie avr. 2025 · licence Apache 2.0
Ce qu'il faut retenir
Le petit modèle le plus déployé du marché (plus de 15 millions de téléchargements mensuels). Mode raisonnement activable, très bon en français, écosystème mature. Son contexte natif est de 40k tokens, extensible à 128k par YaRN au prix d'une perte de précision.
Licence et usage commercial
Apache 2.0 : usage commercial libre, sans restriction.
Sur quelle machine ?
Qwen3 8B demande ≈ 8 Go de VRAM : le modèle chargé en quantisation Q4, plus la marge du cache KV, qui grandit avec la longueur des conversations et le nombre d'utilisateurs simultanés. Il faut donc 1 RTX PRO 5000 Blackwell 48 Go dans un Lenovo ThinkStation P3, soit notre configuration Micro, prévue pour jusqu'à 10 utilisateurs. Ce dimensionnement est un ordre de grandeur. Nous ne partons jamais de la machine : nous cadrons vos usages, nous en déduisons le modèle, puis la configuration qui le fait tourner, et nous validons par un test sur vos données réelles.
Popularité Hugging Face : 15 091 394 téléchargements le mois dernier, 1 318 likes.
Déployer Qwen3 8B chez vous ?
Nous installons ce modèle sur une configuration Micro dans vos locaux, connecté à vos documents et vos outils. Audit gratuit, sans engagement.