AI factory
AI factory : de l’entraînement à l’inférence en production
Une AI factory, ce n’est pas seulement des GPU. C’est la stack qui mène les modèles de l’entraînement au serving, avec isolation, stockage et ops Day-2.
Écrit par
YAPIO
Publié le
12 juil. 2026
Les couches d’une AI factory
Les designs industriels décrivent cinq couches : provisionnement GPU bare-metal, plan de contrôle Kubernetes (ou Slurm) prêt pour l’IA, isolation multi-tenant, outillage certifié (Ray, Jupyter, ordonnanceurs), et ops Day-2, monitoring, facturation, health checks.
Sauter des couches crée des plateformes fragiles : GPU sans fabric, Kubernetes sans opérateurs GPU, ou clusters d’entraînement sans stockage parallèle durable pour les checkpoints.
Training et inference sont des métiers différents
Le training veut des jobs multi-GPU exclusifs, du gang scheduling et une forte bande passante bissection. L’inférence veut des SLO de latence, de l’autoscaling et souvent un packing plus dense. Beaucoup de factories font cohabiter les deux : Slurm pour le batch, Kubernetes pour le serving, parfois unifiés via opérateurs.
Le stockage doit nourrir les deux : haut débit pour datasets et checkpoints, et accès faible latence aux poids au moment du serving.
L’approche YAPIO
Nous partons de la réalité de la charge, pas d’un catalogue produit. Puis nous cartographions les couches, choisissons Slurm, Kubernetes ou hybride, et déployons avec monitoring et runbooks. L’ingénierie produit et l’implémentation IA siègent à côté de la factory pour que la capacité soit réellement utilisée.