C'est une des premières questions posées en rendez-vous, et c'est la bonne. Avant de parler de modèles, de souveraineté ou de conformité, un dirigeant veut savoir une chose très concrète : est-ce qu'une seule machine suffira pour son entreprise, ou est-ce qu'il va falloir en aligner trois.
Plutôt que de répondre par un calcul, nous avons mesuré trois modèles ouverts, Gemma 4 26B, Qwen 3.6 35B et Qwen 3.8 27B, dans les mêmes conditions et sur un seul GPU : celui de 48 Go qui équipe nos machines d'entrée de gamme. Le banc ouvre de 1 à 32 conversations en même temps, par paliers successifs. Deux mots de vocabulaire, ils serviront tout du long : la machine, c'est le serveur entier ; le GPU, c'est la pièce qu'il abrite et qui fait tout le travail de l'IA. Voici ce que la machine a tenu, ce qui l'a fait céder, et surtout ce que ces chiffres ne veulent pas dire.
Ce que la machine a tenu
Un palier n'est retenu que si tout le monde est correctement servi, pas seulement la moyenne. Nos trois conditions, fixées avant la mesure : chacun reçoit au moins 15 unités de texte par seconde (un mot en compte en moyenne un peu plus d'une), un rythme d'affichage plus rapide que la lecture ; l'attente avant le premier mot reste sous 2 secondes en conversation courte et sous 5 secondes quand un document est joint, pour 95 % des demandes et non en moyenne ; aucune demande n'est interrompue en cours de route pour libérer de la mémoire. Si une seule de ces conditions tombe, le palier est refusé.
| Modèle servi | Questions courtes | Questions sur un document | Ce qui a cédé |
|---|---|---|---|
| Gemma 4 26B (MoE) | plus de 32 | 24 | attente de 5,1 s à 32 conversations |
| Qwen 3.6 35B (MoE) | plus de 32 | 24 | attente de 5,1 s à 32 conversations |
| Qwen 3.8 27B (dense) | plus de 32 | 4 | attente de 6,7 s à 8 conversations |
La colonne des questions courtes appelle une précision honnête : 32 était le plafond de notre banc, pas celui de la machine. Les trois modèles l'ont atteint en répondant en moins d'une seconde et demie. Pour Gemma 4 26B et Qwen 3.6 35B, la limite réelle est nettement plus haut, et nous ne savons pas où. Qwen 3.8 27B, le plus lourd, s'en approchait : à 32 conversations, sa mémoire était presque pleine.
La colonne suivante est celle qui compte. Dès qu'un document entre dans la conversation, le plafond s'effondre, dans un rapport de un à six entre Gemma 4 26B et Qwen 3.8 27B. Et ce qui a fait céder les trois, à chaque fois, c'est le même symptôme : l'attente avant le premier mot. Gemma 4 26B et Qwen 3.6 35B ont échoué de très peu au palier suivant, à 5,1 secondes pour un seuil de 5 : leur capacité réelle se situe entre deux paliers.
Ce tableau ne désigne pas un vainqueur, et il serait malhonnête de le lire ainsi. Qwen 3.8 27B, qui sert le moins de monde en simultané, est aussi celui qui a obtenu les meilleures notes de qualité dans nos essais. Il est dense : il mobilise la totalité de ses paramètres à chaque mot produit, là où les deux autres, construits en mélange d'experts (MoE, pour Mixture of Experts), n'en sollicitent qu'une petite fraction. C'est ce qui le rend beaucoup plus lourd à servir. C'est un arbitrage, pas un classement, et il se tranche selon ce que vos équipes attendent de l'outil.
Ce n'est pas le nombre de salariés qui compte
Voilà le point qui change tout dans une discussion de dimensionnement, et il est presque toujours mal posé.
Une conversation simultanée, ce n'est pas un salarié inscrit. C'est une question en train d'être traitée à l'instant précis où vous regardez. Une entreprise de quarante personnes n'envoie pas quarante questions dans la même seconde. Les gens rédigent, relisent la réponse, retournent à leur dossier, partent en réunion. Entre deux questions d'un même utilisateur, la machine est libre pour quelqu'un d'autre.
C'est exactement le raisonnement d'un standard téléphonique : on ne dimensionne pas sur le nombre de collaborateurs, mais sur le nombre d'appels en cours à l'heure de pointe. La bonne question n'est pas « combien de salariés », c'est « combien de personnes tapent sur la touche Entrée au même moment un mardi à 10 h ».
Les nombres d'utilisateurs affichés dans nos offres sont des repères. Le nombre de conversations en cours à l'heure de pointe dépend de votre métier et de l'intensité réelle de l'usage, et il évolue à mesure que vos équipes adoptent l'outil.
Ce qui limite n'est pas ce que l'on croit
La mesure a démonté deux idées reçues.
Ce n'est pas la mémoire du GPU. Au palier refusé, la mémoire réservée aux conversations était occupée entre un quart et un peu plus de la moitié selon le modèle. Il en restait largement au moment où la machine cessait de servir correctement. Une nuance, pour être complet : les deux Qwen réservent à chaque conversation une part fixe de mémoire, quelle que soit sa longueur. Sur Qwen 3.8 27B, la mémoire aurait été pleine vers 24 conversations sur documents. Mais son attente avait décroché bien avant, dès 8.
Ce n'est pas non plus la vitesse d'écriture qui fait franchir le seuil. Même au palier refusé, chaque personne recevait encore son texte à plus de 50 unités par seconde, plus de trois fois notre seuil de confort. Personne, à ce stade, ne trouvait la réponse lente à s'écrire.
Ce qui a cédé, dans les trois cas, c'est l'attente avant le premier mot. C'est le fait mesuré, et il est constant sur les trois modèles : elle monte de moins d'une seconde à plus de cinq pendant que tous les autres indicateurs restent au vert.
L'explication tient à ce que la machine fait pendant ce silence. Avant d'écrire le premier mot, elle doit avoir pris connaissance de l'intégralité de ce qu'on lui a donné : la question, l'historique de la conversation, et surtout le document joint. C'est un travail massif et concentré, alors que l'écriture est un filet régulier. Quand plusieurs personnes arrivent en même temps avec des dossiers, ce sont ces prises de connaissance qui s'empilent, auxquelles s'ajoute le temps passé à attendre son tour. Nous n'avons pas séparé ces deux composantes du silence : nous avons mesuré leur somme, qui est ce que l'utilisateur ressent. C'est aussi pourquoi Qwen 3.8 27B, le modèle dense, décroche le premier : prendre connaissance d'un document lui coûte le travail de tous ses paramètres.
Concrètement, pour un dirigeant : le silence entre la question et le début de la réponse est l'indicateur qui compte. Une IA qui écrit vite mais qui fait attendre plusieurs secondes avant de commencer sera jugée lente par vos équipes, quels que soient les chiffres du fournisseur.
Et ce plafond n'a rien de propre à l'IA locale. Lire un document est un travail que le modèle et le matériel doivent fournir, où qu'ils se trouvent. Un service en ligne servi par un modèle de taille comparable fait exactement le même travail sur le même dossier : il faut avoir lu l'intégralité de ce qu'on lui donne avant d'écrire le premier mot, dans vos locaux comme dans un centre de données.
Deux choses distinguent réellement le service en ligne, et elles méritent d'être nommées franchement. La première est un avantage du cloud, que nous ne contestons pas : le fournisseur aligne beaucoup plus de machines que vous, donc il absorbe vos pointes de charge sans que vous les remarquiez. La contrepartie est que vous payez à l'usage, et que cette facture croît avec le nombre de vos salariés et la taille de vos documents, là où une machine achetée coûte le même prix tant qu'elle suffit à votre charge. La seconde est le sujet de fond de ce site : dans ce cas, vos dossiers partent chez le fournisseur.
Pourquoi ces nombres sont des bornes hautes
Ces nombres ont été mesurés sur un GPU que nous installons, avec la version du moteur et la fenêtre de contexte que nous déployons. Ils restent pourtant des maximums : sur le banc, le GPU ne faisait qu'une chose, répondre aux conversations du test.
Chez un client, il travaille aussi pour le reste de la plateforme. À chaque question, la recherche documentaire retrouve des passages dans vos fichiers, puis un moteur de reclassement les trie pour ne garder que les plus utiles : ce tri se fait sur le même GPU. Nous avions réservé la mémoire dont il a besoin, mais pas reproduit sa charge de calcul. Et l'interface n'envoie pas une seule demande par question : elle en envoie plusieurs, pour reformuler la question, pour donner un titre à la conversation, pour d'autres tâches invisibles à l'utilisateur. Une question posée par un salarié se traduit donc par plusieurs travaux pour le GPU.
Chacun de ces travaux prend sa part de la capacité mesurée ici. Le nombre de conversations réellement tenues chez vous sera donc plus bas que celui du tableau.
Ce que nous en faisons pour dimensionner
Trois conséquences pratiques, qui sont désormais notre méthode.
- On dimensionne sur l'usage documentaire, jamais sur la conversation courte. Le chiffre à plus de 32 dit une chose utile : l'usage conversationnel courant d'une PME ne met pas la machine en difficulté. Mais il ne décide de rien, parce que personne n'achète une IA d'entreprise pour poser des questions de culture générale. C'est le chiffre entre 4 et 24 qui décide de la machine à installer.
- Le choix du modèle pèse plus lourd que le choix du matériel. Sur exactement le même GPU, Gemma 4 26B et Qwen 3.6 35B ont servi six fois plus de conversations documentaires que Qwen 3.8 27B. Aucun budget matériel raisonnable ne rattrape un tel écart. Mais il ne s'obtient pas gratuitement : le modèle le plus capacitaire n'est pas celui qui répond le mieux, et le bon choix dépend de ce que vos équipes lui demandent.
- On choisit la machine avec une marge confortable. L'heure de pointe d'une entreprise ne se prévoit pas : elle évolue avec les usages, à mesure que vos équipes adoptent l'outil. Plutôt que de dimensionner au plus juste sur un besoin qui va changer, nous sélectionnons une machine qui reste nettement sous les capacités mesurées ici, pour que vos équipes ne soient pas ralenties par un matériel trop juste.
Il reste une dimension que cet article ne couvre pas : la taille du dossier que l'on peut donner à l'IA en une fois. Les deux sujets sont liés, puisque c'est la lecture des documents qui limite dans les deux cas. Elle fera l'objet d'un prochain article.
Dans quelles conditions
Trois modèles ouverts, mesurés en septembre 2026 : Gemma 4 26B et Qwen 3.6 35B, construits en mélange d'experts, et Qwen 3.8 27B, dense. Tous trois sont servis dans une version compressée au format NVFP4, qui tire parti du calcul 4 bits des GPU récents, dans des conditions identiques sur un seul GPU professionnel de 48 Go, avec un moteur d'inférence à jour et une fenêtre de contexte de 262 144 unités de texte, soit environ 800 pages. L'accélération de l'écriture par anticipation de plusieurs mots était active sur les trois. Chaque modèle a tourné avec les réglages de génération publiés par son propre éditeur. La version du moteur, l'empreinte exacte de chaque modèle et la ligne de commande de chaque mesure sont archivées avec les résultats, pour qu'une campagne conduite dans six mois puisse être comparée à celle-ci.
Sur Gemma 4 26B, une passe faussée par la mise en route du moteur a été écartée ; les deux Qwen ont été mis en route par une série de demandes non comptées avant la mesure. Gemma 4 26B et Qwen 3.6 35B ont été mesurés deux fois, avec les mêmes capacités à chaque passe. Qwen 3.8 27B l'a été une fois.
Ce que « question portant sur un document » veut dire ici, très précisément. Chaque demande part avec 6 000 à 8 000 unités de texte en pièce jointe, soit une vingtaine de pages, et le décompte est vérifié sur ce que le serveur déclare avoir reçu, pas estimé. C'est l'ordre de grandeur de ce qu'une recherche documentaire remonte à l'assistant pour une question courante : les extraits utiles d'un dossier, jamais le dossier entier. La réponse est plafonnée à 800 unités de texte, et chaque conversation enchaîne sept demandes. Une charge composée de dossiers de 200 pages donnerait des chiffres bien plus bas, et une charge de questions à deux lignes des chiffres bien plus hauts : c'est tout le sujet des deux colonnes du tableau.
Nous mesurons le matériel que nous installons et nous publions les limites que nous trouvons, y compris quand elles sont moins spectaculaires que ce qu'annonce un argumentaire commercial. C'est ce qui rend les chiffres utilisables pour décider.
Questions fréquentes
Combien de personnes une seule machine IA peut-elle servir ?
Sur des questions courtes, les trois modèles mesurés ont tenu 32 conversations en même temps, le plafond de notre test, en répondant en moins d'une seconde et demie. Dès qu'un document est joint, le nombre tombe entre 4 et 24 selon le modèle. C'est cette seconde fourchette qui décide de la machine à installer. L'écart entre modèles est considérable : sur le même GPU, Gemma 4 26B et Qwen 3.6 35B en ont tenu 24, Qwen 3.8 27B seulement 4.
Une conversation simultanée, est-ce un salarié ?
Non, et c'est le point le plus souvent mal posé. Une conversation simultanée est une question en train d'être traitée à l'instant précis où vous regardez, pas un utilisateur inscrit. Une entreprise de quarante personnes n'envoie pas quarante questions dans la même seconde. Le raisonnement est celui d'un standard téléphonique, qui se dimensionne sur les appels en cours à l'heure de pointe.
Qu'est-ce qui limite le nombre de conversations ?
Ni la mémoire du GPU, occupée au plus à un peu plus de la moitié au palier refusé, ni la vitesse d'écriture, encore plus de trois fois au-dessus de notre seuil de confort. C'est l'attente avant le premier mot, le temps que la machine passe à prendre connaissance de la question et des documents joints. Elle monte de moins d'une seconde à plus de cinq pendant que tous les autres indicateurs restent au vert.
Ce plafond est-il propre à une IA installée dans nos locaux ?
Non. Lire un document est un travail que le modèle et le matériel doivent fournir, où qu'ils se trouvent : un service en ligne servi par un modèle comparable fait le même travail sur le même dossier. Le fournisseur en ligne absorbe mieux vos pointes parce qu'il aligne beaucoup plus de machines, mais vous payez à l'usage et vos dossiers partent chez lui.
Comment savoir ce que tiendra la machine de mon entreprise ?
Ces capacités sont des bornes hautes, jamais des capacités de déploiement : chez vous, le GPU porte aussi le reclassement des passages trouvés dans vos documents et les demandes que l'interface envoie pour une seule question posée. Et l'heure de pointe d'une entreprise ne se prévoit pas : elle évolue avec les usages. C'est pourquoi nous choisissons la machine avec une marge confortable sous ces capacités mesurées, pour que vos équipes ne soient pas ralenties par un matériel trop juste.
