Qwen3.8 Flash Next (180B) en déploiement local

Ce qu'il faut retenir

L'architecture la plus économe de la sélection : 180 Md de paramètres au total, mais 6 seulement actifs par token, dont 51 Md logés dans des embeddings n-gram que l'on peut décharger hors du GPU. Son attention hybride, qui marie Gated DeltaNet et une attention creuse par micro-blocs, vise les charges agentiques à contexte long, là où la latence se paie. Multimodal, contexte 256k natif, extensible à un million.

Licence et usage commercial

Licence maison Qwen Community 1.0, et non plus Apache 2.0 comme Qwen3.8 27B. Le déploiement interne en entreprise reste libre, usage commercial compris : la licence l'exempte explicitement. Deux réserves à connaître. Revendre l'inférence du modèle à des tiers, ou en faire le moteur d'un assistant de développement ou de bureautique vendu comme tel, demande une licence séparée auprès de Qwen. Et au-delà de 100 millions d'utilisateurs actifs par mois, le nom du modèle doit apparaître dans l'interface du produit.

Sur quelle machine ?

Qwen3.8 Flash Next (180B) demande ≈ 120 Go de VRAM : le modèle chargé en quantisation Q4, plus la marge du cache KV, qui grandit avec la longueur des conversations et le nombre d'utilisateurs simultanés. Il faut donc 2 RTX PRO 5000 Blackwell 72 Go dans un Lenovo ThinkStation P8, soit notre configuration Pro, prévue pour jusqu'à 100 utilisateurs et au-delà. Ce dimensionnement est un ordre de grandeur. Nous ne partons jamais de la machine : nous cadrons vos usages, nous en déduisons le modèle, puis la configuration qui le fait tourner, et nous validons par un test sur vos données réelles.

Popularité Hugging Face : 207 941 téléchargements le mois dernier, 4 567 likes.

Voir la fiche Hugging Face