Luma Health senkt EKS-Kosten um 40 % und gewinnt jährlich Tausende Engineering-Stunden zurück

Warum sich Luma Health für PerfectScale entschieden hat

Bei der Evaluierung von Tools zur Kubernetes-Optimierung stieß Caio auf PerfectScale by DoiT. Er erzählt: "PerfectScale hat von Anfang an gepasst. Die Trials mit den anderen Tools habe ich gar nicht erst weitergeführt."

PerfectScale lieferte Caios Team eine automatisierte, umgebungssensitive Optimierung, die der manuelle Prozess nie erreichen konnte. Entscheidend dabei: Optimierungs-Policies, die auf unterschiedliche Risikotoleranzen zugeschnitten sind. "Wir nutzen bestimmte Profile. In den unteren Umgebungen fahren wir einen aggressiveren Ansatz zur Kostenoptimierung. In der Produktion gehen wir ausgewogener vor." erklärt Caio, "Auf Basis der Ergebnisse und Metriken können wir die Änderungen problemlos auf unsere Plattform anwenden."

In Nicht-Produktionsumgebungen läuft die PerfectScale-Automatisierung kontinuierlich und passt Pods per Right-Sizing an, um Waste ohne manuelles Eingreifen zu minimieren. In der Produktion wägt die ausgewogene Policy Kosteneinsparungen gegen die Zuverlässigkeitsanforderungen des Gesundheitswesens ab. Dieser Unterschied ist entscheidend: Eine Plattform, die 100 Millionen Patienten bedient, verträgt in der Produktion nicht dieselbe Aggressivität, die in einem Staging-Cluster mit minimaler Last funktioniert.

Die Empfehlungen von PerfectScale stützen sich auf eine kontinuierliche Workload-Analyse statt auf einfache Durchschnittswerte und berücksichtigen die saisonalen Traffic-Muster und Lastspitzen, an denen der bisherige Prozess des Teams gescheitert war. Caio betont, dass sich die überwältigende Mehrheit der Empfehlungen bedenkenlos in der Produktion umsetzen ließ – und in den unteren Umgebungen wendet das System die Änderungen automatisch an.

"Der Vertrauensfaktor war uns sehr wichtig. Mehr als 90 % der Empfehlungen waren treffsicher. Sie ließen sich gefahrlos in der Produktion ausrollen.", sagt Caio.

Das Support-Team von PerfectScale stand während des gesamten Rollouts mit konkreter Unterstützung zur Seite, half beim Feintuning der Policies und beim Lösen von Edge Cases, während Caios Team die Automatisierung über alle Cluster hinweg ausrollte.

Luma Health entwickelt die Patient Success Platform, auf die sich mehr als 600 Gesundheitssysteme, Fachärztenetzwerke und Kliniken in den USA verlassen, um Patienten mit der passenden Versorgung zusammenzubringen. Die Plattform orchestriert Patient Journeys – von Terminbuchung und Kommunikation bis zu klinischen und finanziellen Workflows – und erreicht mehr als 100 Millionen Patienten. Wenn das System eines Gesundheitsdienstleisters langsamer wird oder ausfällt, verpassen reale Menschen Termine, verzögern ihre Behandlung oder verlieren das Vertrauen in ihr Versorgungsteam. Verfügbarkeit und Performance sind bei Luma Health keine Abstraktionen. Sie wirken sich direkt auf die Behandlungsergebnisse aus.

Caio Cristo, Director of Infrastructure, leitet ein global verteiltes SRE-Team aus neun Engineers in Brasilien und Europa. Das Team verantwortet alles von Container-Orchestrierung und Infrastructure-as-Code bis hin zur langfristigen Cloud-Strategie.

Mit dem Wachstum von Luma Health wuchs auch die Komplexität der Amazon-EKS-Umgebung. Das Team betrieb bereits Karpenter für die Node-Skalierung, KEDA für horizontale Pod-Autoskalierung über RabbitMQ-, HTTP- und Datenbank-Trigger sowie Datadog für Observability. Das Tooling war modern. Die Herausforderung: die Kosten im Griff behalten, ohne die Zuverlässigkeit zu gefährden, die das Gesundheitswesen verlangt.

40 % weniger EKS-Kosten und +1.700 zurückgewonnene Engineering-Stunden

Die Wirkung war sofort spürbar. Schon im ersten Optimierungszyklus identifizierte PerfectScale eine Kostenreduktion von 40 % bei den EKS-spezifischen Ausgaben – das entspricht rund 15 % der gesamten AWS-Ausgaben von Luma Health.

Die Zeitersparnis war ebenso einschneidend. Caios SRE-Team verzeichnete einen Rückgang um 90 % beim Zeitaufwand für Kubernetes-Right-Sizing und konnte Engineers über drei Zeitzonen hinweg auf die Arbeit konzentrieren, die die Plattform wirklich voranbringt.

Vielleicht am wichtigsten: PerfectScale lieferte Caio ein belastbares Argument für das wiederkehrende Budgetgespräch mit dem Finanzteam von Luma Health. Als der Cache-Layer zusätzliche Investitionen erforderte, um die Anwendungsperformance zu sichern, konnte das SRE-Team auf nachweisbare Kubernetes-Einsparungen als Gegenfinanzierung verweisen. Das Gespräch verlagerte sich vom Verteidigen von Kosten hin zur strategischen Umverteilung von Einsparungen. AWS lieferte über Amazon EKS weiterhin das zuverlässige, skalierbare Compute-Fundament, während PerfectScale by DoiT dafür sorgte, dass jeder darauf ausgegebene Dollar das Maximum leistet.

"Was uns PerfectScale enorm geholfen hat, war diese Kostenbalance herzustellen. Wir müssen unseren Cache-Layer ausbauen – aber gibt es woanders etwas, das wir einsparen können? Beim ersten Anwenden der Empfehlungen kamen wir auf rund 40 % EKS-Einsparung pro Jahr. Das hilft definitiv in Gesprächen, in denen wir unsere Position zwischen Zuverlässigkeit und Kosteneinsparungen verteidigen müssen." Caio Cristo, Director of Infrastructure bei Luma Health

Ein erstklassiger Kubernetes-Optimierungs-Stack auf AWS

Mit PerfectScale für die Optimierung auf Workload-Ebene betreibt Luma Health jetzt eine Autoscaling- und Optimierungs-Pipeline über den gesamten Kubernetes-Stack auf AWS. Karpenter steuert die Skalierung auf Node-Ebene, KEDA treibt die horizontale Pod-Autoskalierung über RabbitMQ-, HTTP- und Datenbank-Trigger an, und PerfectScale optimiert kontinuierlich die Resource Requests und Limits, die darüber entscheiden, wie effizient jeder Pod die von Karpenter bereitgestellte Kapazität nutzt.

Diese Kombination sorgt dafür, dass die Amazon-EKS-Umgebung von Luma Health auf jeder Ebene effizient skaliert: Infrastruktur, Pod-Anzahl und einzelne Workload-Ressourcen. Wenn die Plattform wächst, um mehr Gesundheitssysteme und mehr Patienten zu bedienen, skaliert dieser Stack mit – und der Nutzen der automatisierten Optimierung verstärkt sich im Lauf der Zeit.

Caio und sein Team arbeiten weiterhin eng mit dem Support-Team von PerfectScale zusammen, um die Automatisierungs-Policies über alle Umgebungen hinweg zu verfeinern und die richtige Balance aus Kosteneffizienz und Zuverlässigkeit zu sichern, während sich die Workloads weiterentwickeln. Das Ziel ist einfach: Kubernetes-Kosten planbar halten, während Luma Health seine Mission verfolgt, das Gesundheitswesen für jeden Patienten besser zu machen.