GLM-5.3 (753B) en déploiement local

Ce qu'il faut retenir

Le sommet de la sélection, et le plus gourmand : 753 Md de paramètres dont 40 actifs, contexte d'un million de tokens. Il reprend le modèle de base de GLM-5.2 et ne doit ses gains qu'au post-entraînement : Z.ai annonce 50 % de mieux sur son banc de code interne et l'état de l'art open weight sur Terminal-Bench 3.0. Texte seul. Comptez cinq cartes de 96 Go, cache compris.

Licence et usage commercial

Licence maison GLM-5.3, et non plus MIT comme GLM-5.2 : usage commercial libre, déploiement interne compris. La seule contrepartie ne vise personne ici : un revendeur d'inférence pesant plus de 10 milliards de dollars de revenus sur douze mois doit passer une revue de sécurité Z.ai avant tout usage commercial.

Sur quelle machine ?

GLM-5.3 (753B) demande ≈ 425 Go de VRAM : le modèle chargé en quantisation Q4, plus la marge du cache KV, qui grandit avec la longueur des conversations et le nombre d'utilisateurs simultanés. Il faut donc 5 RTX PRO 6000 Blackwell Server Edition 96 Go dans un Lenovo ThinkSystem SR675 V3, soit notre configuration Pro, prévue pour jusqu'à 100 utilisateurs et au-delà. Ce dimensionnement est un ordre de grandeur. Nous ne partons jamais de la machine : nous cadrons vos usages, nous en déduisons le modèle, puis la configuration qui le fait tourner, et nous validons par un test sur vos données réelles.

Popularité Hugging Face : 94 403 téléchargements le mois dernier, 1 435 likes.

Voir la fiche Hugging Face