NOS divise ses coûts Kubernetes par deux et retrouve confiance dans l'optimisation

NOS a adopté PerfectScale, d'abord déployé sur les clusters de développement, où l'automatisation a tourné discrètement pendant quatre mois — avec des coûts en baisse et zéro incident. Fort de ce succès, NOS a étendu l'automatisation aux composants de la plateforme, dont l'ingress controller, le cert manager et la stack d'observabilité. En production, les SREs appliquent les recommandations manuellement, en s'appuyant sur les éléments contextuels fournis par PerfectScale pour garantir que les changements n'affecteront pas les performances. InfraFit identifie les types de nœuds optimaux afin que le Cluster Autoscaler monte en charge efficacement, en phase avec le trafic utilisateur.

NOS est l'un des principaux opérateurs télécoms du Portugal, qui fournit à des millions de clients des services de réseau, d'internet et de divertissement. Il y a près de dix ans, NOS a fait le pari de la conteneurisation pour réduire les frais d'exploitation et gagner en rapidité, passant des machines virtuelles à Docker et Rancher, puis à Kubernetes déployé à l'échelle de toute l'entreprise. Aujourd'hui, l'opérateur fonctionne en mode hybride : les systèmes propres aux télécoms restent on-prem, tandis que les workloads scalables tournent sur Google Cloud. L'objectif est resté le même : offrir agilité et performance tout en gardant les dépenses d'infrastructure sous contrôle.

À mesure que l'architecture Kubernetes de NOS évoluait, la complexité augmentait. Les équipes utilisaient Prometheus et Grafana, mais ces outils ne fournissaient que des métriques brutes, sans la visibilité ni les recommandations nécessaires pour décider en toute confiance — surtout lorsque des SLA étaient en jeu. Sans repères clairs, les ingénieurs devaient avancer à l'aveugle. Après plusieurs tentatives manuelles de right-sizing qui ont provoqué des crashs et des violations de SLA, les équipes ont fait machine arrière. "Les développeurs ont tenté des modifications selon ce qui leur semblait logique, et cela s'est retourné contre eux", explique Joao Soares, Responsable Platform Engineering chez NOS. Pour ne rien arranger, les équipes FinOps passaient chaque mois plusieurs jours à assembler des données fragmentées pour produire leurs rapports, ce qui compliquait la détection des problèmes et la préparation des revues budgétaires.

Lors de la KubeCon Europe 2024 à Paris, Joao Soares cherchait une chose : un moyen plus sûr de réduire les coûts Kubernetes. PerfectScale s'est immédiatement démarqué. "J'ai cru au produit dès la première fois que je l'ai vu. Je le montre encore à tout le monde", raconte-t-il. "C'était la seule solution qui combinait automatisation intelligente et économies réelles, sans mettre les performances en danger."

PerfectScale a d'abord été déployé sur les clusters de développement, où l'automatisation a tourné discrètement pendant quatre mois — avec des coûts en baisse, sans le moindre incident ni la moindre plainte. Fort de ce succès, NOS a commencé à automatiser des composants de la plateforme comme l'ingress controller, le cert manager et la stack d'observabilité. En production, les SREs appliquent encore les recommandations manuellement, mais la confiance grandit : PerfectScale leur apporte les éléments contextuels dont ils ont besoin pour être certains que les changements n'entraîneront pas de problèmes de performance.

NOS a réduit de plus de 50 % les coûts de son cluster le plus grand et le plus critique — le cluster API principal —, jusque-là fortement surprovisionné par précaution. PerfectScale a mis au jour des problèmes passés inaperçus, comme des kills out-of-memory et du CPU throttling, avec des recommandations ciblées pour les résoudre. InfraFit a aidé NOS à identifier les types de nœuds optimaux, permettant au Cluster Autoscaler de monter en charge plus efficacement. "Nous observons la sinusoïde que nous voulions : une montée et une descente en charge parfaitement calées sur le trafic utilisateur. Combiné au right-sizing automatisé des workloads, plusieurs node pools principaux tournent désormais avec 0 % de ressources inutilisées", explique Joao Soares. Le reporting FinOps s'est lui aussi considérablement accéléré, libérant deux à trois jours chaque mois. "Aujourd'hui, j'arrive en réunion en sachant que tout est en ordre", conclut-il.

PerfectScale alimente désormais les décisions quotidiennes chez NOS, remplaçant outils épars et approximations par une plateforme unique et fiable. Les Platform Engineers l'utilisent pour automatiser la gestion des clusters et des ressources ; les SREs appliquent les recommandations aux services critiques ; les développeurs s'en servent pour dimensionner correctement leurs environnements, du dev à la prod ; les contrôleurs financiers suivent le budget et les dépenses ; et la direction pilote l'efficacité et la collaboration entre équipes. Cette visibilité partagée a renforcé la collaboration et fait de l'optimisation Kubernetes une composante du quotidien opérationnel de toute l'entreprise.