All'inizio dell'anno, il CFO di Trax ha fissato obiettivi di risparmio ambiziosi per tutta l'organizzazione. Mark Serdze, Director of Cloud Infrastructure, e il suo team sono riusciti a ridurre rapidamente i costi al di fuori di Kubernetes, ma si sono scontrati con diversi ostacoli nell'ottimizzazione del loro ambiente Kubernetes su larga scala, multi-cloud e multi-cluster.
L'ottimizzazione manuale con Vertical Pod Autoscaler (VPA), i log dei cluster e le soluzioni di monitoraggio esistenti non offriva la chiarezza necessaria e non poteva scalare in modo efficiente senza un impegno di sviluppo significativo. Il team era costretto ad azioni reattive e ad hoc, con un impatto minimo sugli obiettivi. Le lacune negli strumenti generavano lunghi confronti interni e decisioni basate sull'intuito, che spesso mettevano a rischio la resilienza dei servizi.
Trax ha implementato PerfectScale by DoiT per ottenere visibilità sui costi e raccomandazioni di ottimizzazione basate sull'AI sul proprio ambiente Kubernetes con oltre 200 microservizi. La piattaforma ha fornito una visione chiara delle risorse necessarie a ciascun servizio e ha evidenziato le maggiori opportunità di eliminazione degli sprechi, bilanciando risparmio e resilienza.
La capacità unica di PerfectScale di consolidare tutte le repliche di un servizio in un'unica vista ha permesso a Trax di comprendere l'utilizzo eterogeneo tra le repliche — particolarmente utile per workloads effimeri come i job Spark e Flink — e di riprogettare i servizi per ottenere ulteriori risparmi senza impattare la disponibilità.
Le raccomandazioni di ottimizzazione dei costi sono state fondamentali per noi: ci indicavano quali azioni intraprendere con una comprensione chiara dell'impatto di ogni modifica. In uno dei nostri cluster siamo riusciti a ridurre i costi del 75%, con un risparmio annuo a sei cifre.
Mark Serdze, Director of Cloud Infrastructure, Trax
La missione di Trax è consentire a brand e retailer di sfruttare la potenza delle tecnologie digitali per creare le migliori esperienze di acquisto possibili. Le sue innovazioni all'avanguardia e l'eccellenza nello sviluppo di tecnologie avanzate e metodi di raccolta dati autonomi generano esperienze di acquisto positive e sbloccano opportunità di ricavo in tutti i punti vendita.
Il portafoglio di soluzioni di Trax fornisce metriche, analisi e servizi mission-critical che aiutano i clienti a risparmiare tempo e denaro migliorando l'esperienza di acquisto. Kubernetes è un componente chiave della sua infrastruttura e supporta un ambiente multi-cloud e multi-cluster su larga scala al servizio di clienti in oltre 90 Paesi, tra cui alcune delle più grandi aziende al mondo.
All'inizio dell'anno, il CFO ha definito obiettivi di risparmio ambiziosi in diverse aree dell'organizzazione. Per Mark Serdze, Director of Cloud Infrastructure, e il suo team, questo significava agire rapidamente per ottimizzare i costi cloud. Al di fuori di Kubernetes hanno ottenuto risultati rapidi, ma all'interno dei cluster si sono scontrati con diversi ostacoli.
"Abbiamo iniziato a ottimizzare manualmente con le metriche disponibili, usando Vertical Pod Autoscaler (VPA), i log dei cluster e le nostre soluzioni di monitoraggio", racconta Serdze. "Questo approccio non ci dava la chiarezza necessaria e sarebbe stato difficile da scalare in modo efficiente senza grossi interventi di sviluppo. Ci ritrovavamo così ad agire in modo reattivo e ad hoc, con un impatto minimo sui nostri obiettivi."
Le lacune negli strumenti generavano lunghi dibattiti su quali azioni intraprendere, con decisioni spesso basate sull'intuito, rilavorazioni aggiuntive e rischi per la resilienza dei servizi.
Poco dopo l'implementazione di PerfectScale by DoiT, Serdze e il suo team hanno ottenuto la visibilità sui costi che mancava nel loro ambiente Kubernetes. Nel loro vasto ambiente con oltre 200 microservizi, avevano una visione chiara delle risorse necessarie a ciascun servizio e delle maggiori opportunità di eliminazione degli sprechi.
Grazie alle indicazioni intelligenti basate sull'AI della piattaforma, il team ha potuto agire rapidamente, bilanciando i risparmi con la resilienza complessiva per regolare le risorse in modo sicuro ed efficiente, senza compromettere le performance.
"Le raccomandazioni di ottimizzazione dei costi sono state fondamentali per noi: ci indicavano quali azioni intraprendere con una comprensione chiara dell'impatto di ogni modifica", afferma Serdze. "In uno dei nostri cluster siamo riusciti a ridurre i costi del 75%, con un risparmio annuo a sei cifre."
Grazie alla completezza di dati e analisi, Trax ha inoltre potuto sostituire un tool FinOps esistente, privo di dettagli granulari sui costi e di indicazioni di ottimizzazione — praticamente senza alcun impatto sul budget.
Dopo aver eliminato le risorse sprecate, il team di Trax si è concentrato sull'individuazione di ulteriori opportunità di ottimizzazione dei costi legate ai risultati di business.
"Una metrica chiave per noi è il costo per elaborazione, fortemente influenzato dall'efficienza del nostro ambiente Kubernetes", spiega Serdze. "Se supera una certa soglia, siamo sotto forte pressione per capirne il motivo e intervenire per ridurlo."
La funzionalità unica di PerfectScale che consolida tutte le repliche di un servizio in un'unica vista ha dato al team chiarezza sull'utilizzo eterogeneo tra le repliche — particolarmente utile per workloads effimeri come i job Spark o Flink.
"Siamo riusciti a creare più varianti del servizio con diversi livelli di risorse e a instradare le richieste in ingresso verso il servizio giusto in base alla dimensione dei dati", afferma Serdze. "Questo ha avuto un grande impatto sulla nostra metrica del costo per elaborazione. PerfectScale ha reso disponibili questi dati all'istante: senza di loro, avremmo passato innumerevoli ore a valutare centinaia di repliche per ottenere gli stessi risultati."
Oltre ai risultati rapidi ed efficaci nell'ottimizzazione dei costi, il team di Trax ha attribuito gran parte del proprio successo alla partnership strategica e al supporto ricevuti da PerfectScale.
"Il supporto durante il proof of concept (POC) è stato determinante per ottenere risultati rapidi", conclude Serdze. "Il team di PerfectScale ha lavorato al nostro fianco, ci ha aiutato a ottimizzare e ha garantito il nostro successo nell'uso della piattaforma. Non ho mai visto questo livello di impegno da altri vendor, e sono felice di aver trovato un partner su cui contare per tenere sotto controllo i costi Kubernetes mentre continuiamo a crescere."
Scopra come PerfectScale aiuta i team a fare right-sizing dei cluster, ridurre gli sprechi e migliorare le performance senza interventi manuali.
