Cette page est également disponible en English, Deutsch, Español, Italiano, 日本語 et Português.
En déployant PerfectScale by DoiT sur ses clusters Amazon EKS, l'équipe SRE de Luma Health a récupéré 90 % du temps consacré à l'optimisation manuelle de Kubernetes et réduit d'environ 40 % ses dépenses EKS annuelles. Le budget ainsi dégagé a été réinvesti dans une infrastructure de cache critique pour les performances, préservant l'expérience patient sur laquelle reposent plus de 600 systèmes de santé.
L'équipe finance de Luma Health impose à chaque département un budget cloud strict, aligné sur les objectifs de marge brute de l'entreprise. Pour l'équipe SRE de Caio, cela se traduisait par un cycle mensuel implacable. "Nous consacrions au moins 20 heures par mois à l'optimisation des coûts au sein de l'équipe SRE. Nous passions notre temps à examiner des métriques, à identifier les postes où les coûts augmentaient, puis à mettre en place des actions de suivi pour les maîtriser.", raconte Caio.
Le processus était laborieux. Les ingénieurs analysaient les métriques Datadog, évaluaient l'utilisation CPU et mémoire de centaines de pods, et ajustaient manuellement les requests et limits de ressources pour les déploiements et les DaemonSets. Ils ont testé des outils d'IA généralistes comme Claude et ChatGPT pour accélérer l'analyse, mais les résultats manquaient de constance.
Le tuning des ressources Kubernetes exige une connaissance fine de la saisonnalité du trafic, des schémas propres à chaque workload et des effets en cascade qu'un seul changement peut produire sur des centaines de pods. Une légère baisse d'allocation CPU pouvait étouffer un service. Une limite mémoire trop prudente pouvait déclencher des crashs out-of-memory et des redémarrages de pods. L'équipe de Caio détectait la plupart de ces risques, mais la marge d'erreur restait mince et l'investissement en temps intenable.
Caio se retrouvait dans une discussion récurrente : justifier la hausse des dépenses auprès de la finance, ou trouver ailleurs des économies équivalentes pour compenser l'investissement. "Tout le monde tient absolument à la satisfaction du client", explique Caio, "et un client n'est pas satisfait quand une page met 10 secondes à se charger." L'équipe SRE avait besoin d'optimiser les coûts Kubernetes en toute confiance, afin de réinvestir ces économies dans l'infrastructure dont dépendent les patients.
Caio a découvert PerfectScale by DoiT en évaluant des outils d'optimisation Kubernetes. Il témoigne : "PerfectScale s'est imposé dès le départ. Je n'ai même pas poursuivi les essais avec les autres outils."
PerfectScale a apporté à l'équipe de Caio une optimisation automatisée et contextuelle, hors de portée d'un processus manuel. La clé : des politiques d'optimisation adaptées à différents niveaux de tolérance au risque. "Nous avons des profils spécifiques. Sur les environnements inférieurs, nous adoptons une approche d'optimisation des coûts plus agressive. En production, l'approche est plus équilibrée.", explique Caio. "À partir des résultats et des métriques, nous appliquons facilement ces changements à notre plateforme."
Dans les environnements hors production, l'automatisation PerfectScale tourne en continu, ajustant la taille des pods pour réduire le gaspillage sans intervention manuelle. En production, la politique équilibrée met en balance les économies et les exigences de fiabilité propres à la santé. La nuance est essentielle : une plateforme qui sert 100 millions de patients ne peut pas tolérer en production le même niveau d'agressivité qu'un cluster de staging à faible charge.
Les recommandations de PerfectScale s'appuient sur une analyse continue des workloads plutôt que sur de simples moyennes, en intégrant la saisonnalité du trafic et les pics d'utilisation qui mettaient à mal le processus précédent. Caio souligne que la très grande majorité des recommandations se sont avérées sûres à appliquer en production, et que sur les environnements inférieurs, le système applique les changements automatiquement.
"La confiance était un facteur déterminant. Plus de 90 % des recommandations étaient justes. On pouvait les appliquer en production sans risque.", partage Caio.
L'équipe support de PerfectScale a fourni un accompagnement concret tout au long du déploiement, contribuant à affiner les politiques et à traiter les cas limites au fur et à mesure que l'équipe de Caio étendait l'automatisation à l'ensemble des clusters.
PerfectScale a réduit de 40 % nos dépenses EKS totales, et les automatisations absorbent ce qui mobilisait jusqu'ici 20 heures par mois de notre équipe. Nous consacrons désormais ce temps à la fiabilité et aux performances, plutôt qu'à courir après les métriques de coûts.
Caio Cristo, Director of Infrastructure/SRE
Luma Health développe la Patient Success Platform sur laquelle s'appuient plus de 600 systèmes de santé, réseaux spécialisés et cliniques aux États-Unis pour mettre les patients en relation avec les soins. La plateforme orchestre les parcours patients, de la prise de rendez-vous et de la communication jusqu'aux workflows cliniques et financiers, au service de plus de 100 millions de patients. Lorsque le système d'un prestataire de santé ralentit ou tombe en panne, ce sont des personnes bien réelles qui manquent un rendez-vous, retardent un traitement ou perdent confiance dans leur équipe soignante. Chez Luma Health, la disponibilité et la performance ne sont pas des abstractions. Ce sont des résultats cliniques.
Caio Cristo, Director of Infrastructure, dirige une équipe SRE répartie à l'international, composée de neuf ingénieurs basés au Brésil et en Europe. Elle prend en charge tout le périmètre, de l'orchestration de conteneurs et de l'infrastructure-as-code à la stratégie cloud à long terme.
Avec la croissance de Luma Health, la complexité de son environnement Amazon EKS s'est accrue. L'équipe utilisait déjà Karpenter pour le scaling des nœuds, KEDA pour l'autoscaling horizontal des pods sur les déclencheurs RabbitMQ, HTTP et base de données, et Datadog pour l'observabilité. L'outillage était moderne. Le défi consistait à maîtriser les coûts sans compromettre la fiabilité qu'exige le secteur de la santé.
L'impact a été immédiat. Dès le premier cycle d'optimisation, PerfectScale a identifié 40 % de réduction sur les coûts spécifiques à EKS, soit environ 15 % du total des dépenses AWS de Luma Health.
Le gain de temps s'est révélé tout aussi décisif. L'équipe SRE de Caio a constaté une baisse de 90 % du temps consacré au rightsizing de Kubernetes, libérant les ingénieurs répartis sur trois fuseaux horaires pour se concentrer sur les chantiers qui font réellement avancer la plateforme.
Plus important encore, PerfectScale a donné à Caio une réponse crédible à la discussion budgétaire récurrente avec l'équipe finance de Luma Health. Lorsque la couche de cache a nécessité un investissement supplémentaire pour maintenir les performances applicatives, l'équipe SRE a pu mettre en avant des économies Kubernetes vérifiées en contrepartie. La conversation est passée de la défense des coûts à une réallocation stratégique des économies. AWS a continué d'assurer une base de calcul fiable et scalable via Amazon EKS, tandis que PerfectScale by DoiT garantissait que chaque dollar investi sur cette base soit pleinement valorisé.
"PerfectScale nous a énormément aidés à équilibrer ces coûts. Nous devions renforcer notre couche de cache, mais y avait-il des économies à dégager ailleurs ? Dès la première application des recommandations, nous avons atteint environ 40 % d'économies annuelles sur EKS. C'est un vrai atout dans les discussions où il faut arbitrer entre fiabilité et économies." Caio Cristo, Director of Infrastructure chez Luma Health
Avec PerfectScale qui prend en charge l'optimisation au niveau des workloads, Luma Health dispose désormais d'un pipeline d'autoscaling et d'optimisation couvrant l'ensemble de la stack Kubernetes sur AWS. Karpenter gère le scaling au niveau des nœuds, KEDA pilote l'autoscaling horizontal des pods sur les déclencheurs RabbitMQ, HTTP et base de données, et PerfectScale optimise en continu les requests et limits de ressources qui déterminent l'efficacité avec laquelle chaque pod exploite la capacité provisionnée par Karpenter.
Résultat : l'environnement Amazon EKS de Luma Health scale efficacement à chaque niveau — infrastructure, nombre de pods et ressources des workloads. À mesure que la plateforme grandit pour servir davantage de systèmes de santé et de patients, cette stack évolue avec elle, démultipliant la valeur de l'optimisation automatisée dans la durée.
Caio et son équipe continuent de collaborer avec le support de PerfectScale pour affiner les politiques d'automatisation selon les environnements, en cherchant le juste équilibre entre efficacité des coûts et fiabilité, au fil de l'évolution des workloads. L'objectif est simple : garder des coûts Kubernetes prévisibles pendant que Luma Health poursuit sa mission, rendre les soins plus efficaces pour chaque patient.
