Sous le capot

La stack IA locale de Sover.tech

Cette page s'adresse à votre équipe technique. Elle décrit les composants, la supervision et les limites, sans boîte noire ni logiciel maison.

Les briques techniques

Des standards open source que n'importe quel prestataire peut reprendre. Aucun verrou, pas même à nous.

Chemin d'une requête, du poste de travail jusqu'à la carte graphique Ordinateurs navigateur Traefik accès et TLS Open WebUI assistant et RAG n8n automatisations vLLM moteur d'inférence GPU modèle en mémoire
Le même chemin pour une question posée dans l'assistant et pour un enchaînement automatique. Rien ne sort du serveur.

Le moteur

N'importe quel modèle open-weight (Gemma, Qwen, Llama, Mistral, DeepSeek...), servi par vLLM et exécuté entièrement sur votre matériel. Rien ne sort de chez vous.

Vos documents, vos outils

Une interface de discussion (Open WebUI), la recherche dans vos propres documents (RAG) et l'automatisation de vos tâches (n8n), connectées à votre système.

Un socle robuste

Ubuntu et Kubernetes pour la fiabilité, la supervision et les mises à jour. Le même socle éprouvé, du plus petit au plus grand serveur.

vLLM, Open WebUI, LMCache, n8n et Kubernetes sont les standards du marché pour l'IA locale et le RAG. Nous les assemblons et les maintenons pour vous.

  • NVIDIA
  • Ubuntu
  • Kubernetes
  • vLLM
  • LMCache
  • Open WebUI
  • n8n
  • Opencode
Intérieur d'une station de travail Lenovo ThinkStation P8 : processeur AMD Threadripper, cartes graphiques NVIDIA, mémoire et stockage
La ThinkStation P8, capot ouvert : processeur AMD Threadripper, cartes graphiques NVIDIA, mémoire et stockage. Le châssis s'installe en tour ou en baie.

Notre propre serveur, en production

Toute l'activité de Sover.tech tourne sur l'IA locale que nous installons. Voici la supervision de notre serveur, le même relevé qui nourrit le rapport mensuel de nos clients.

Grafana
Tableau de bord de supervision du serveur d'IA de Sover.tech : requêtes en cours et en attente, cache, délai avant le premier mot, préemptions, réponses tronquées et courbes de latence
Notre serveur, vu depuis sa supervision : requêtes en cours, cache, délai avant le premier mot, attente en file et latence de bout en bout. C'est ce même relevé qui nourrit le rapport mensuel que reçoivent nos clients.
La même stack fait tourner Lucie, l'assistante du site. En lui écrivant, en bas à droite, vous testez directement la technologie que nous déployons. Son périmètre est volontairement limité à Sover.tech : une IA installée chez vous est calibrée pour vos documents, vos outils et vos usages.

Ce que cette page ne prouve pas

Un tableau de bord ne prouve pas la qualité d'une réponse. Il montre que la machine tourne, que les requêtes passent et que la supervision est en place. La qualité se mesure sur vos documents, avec vos règles et votre validation.

Les modèles open-weight peuvent se tromper. C'est pourquoi l'accès reste en lecture seule et que le professionnel valide. Le comparatif des modèles donne des ordres de grandeur, pas une recommandation de machine.

Le détail d'un montage concret, avec ses garde-fous, est dans l'article sur le cabinet comptable. Les machines sont des stations de travail Lenovo ThinkStation P4 ou P8 selon le tier ; au-delà de 100 utilisateurs, le dimensionnement exact sort de l'audit.

Un projet technique à cadrer ?

Une heure pour regarder vos usages, votre infrastructure et le serveur adapté.

Audit gratuit d'une heure