Diese Seite ist auch in English, Español, Français, Italiano, 日本語 und Português verfügbar.
Das SRE-Team von Luma Health hat 90 % der Zeit zurückgewonnen, die zuvor in die manuelle Kubernetes-Optimierung floss, und rund 40 % der jährlichen EKS-Ausgaben eingespart – durch den Einsatz von PerfectScale by DoiT in den Amazon-EKS-Clustern. Das frei gewordene Budget floss in performancekritische Cache-Infrastruktur und schützt damit die Patient Experience, auf die sich über 600 Gesundheitssysteme verlassen.
Das Finanzteam von Luma Health verpflichtet jede Abteilung auf ein striktes Cloud-Budget, das an die Bruttomargenziele des Unternehmens gekoppelt ist. Für Caios SRE-Team bedeutete das einen unerbittlichen monatlichen Zyklus. "Im SRE-Team haben wir mindestens 20 Stunden pro Monat für Kostenoptimierung eingeplant. Wir haben permanent Metriken geprüft, nachvollzogen, wo die Kosten stiegen, und daraus Folgeaufgaben abgeleitet, um gegenzusteuern.", berichtet Caio.
Der Prozess war mühsam. Engineers werteten Datadog-Metriken aus, analysierten CPU- und Speicherauslastung über Hunderte von Pods hinweg und passten Resource Requests und Limits für Deployments und DaemonSets manuell an. Sie experimentierten mit generischen KI-Tools wie Claude und ChatGPT, um die Analyse zu beschleunigen – die Ergebnisse blieben jedoch uneinheitlich.
Das Tuning von Kubernetes-Ressourcen erfordert ein Gespür für saisonale Traffic-Muster, Workload-spezifische Eigenheiten und die Kaskadeneffekte, die eine einzige Änderung über Hunderte von Pods auslösen kann. Eine moderate Reduktion der CPU-Zuteilung kann einen Service aushungern. Ein zu konservatives Speicherlimit kann Out-of-Memory-Abstürze und Pod-Restarts provozieren. Caios Team fing die meisten dieser Risiken ab, aber die Fehlertoleranz war gering und der Zeitaufwand auf Dauer nicht tragbar.
Caio fand sich in einem wiederkehrenden Gespräch wieder: Entweder die Mehrausgaben gegenüber dem Finanzteam rechtfertigen oder an anderer Stelle gleichwertige Einsparungen finden, um die Investition gegenzufinanzieren. "Allen liegt sehr daran, dass die Kunden zufrieden sind", erklärt Caio, "und Kunden sind nicht zufrieden, wenn das Laden einer Seite 10 Sekunden dauert." Das SRE-Team brauchte einen Weg, Kubernetes-Kosten verlässlich zu optimieren, um die Einsparungen in jene Infrastruktur reinvestieren zu können, auf die Patienten angewiesen sind.
Bei der Evaluierung von Tools zur Kubernetes-Optimierung stieß Caio auf PerfectScale by DoiT. Er erzählt: "PerfectScale hat von Anfang an gepasst. Die Trials mit den anderen Tools habe ich gar nicht erst weitergeführt."
PerfectScale lieferte Caios Team eine automatisierte, umgebungssensitive Optimierung, die der manuelle Prozess nie erreichen konnte. Entscheidend dabei: Optimierungs-Policies, die auf unterschiedliche Risikotoleranzen zugeschnitten sind. "Wir nutzen bestimmte Profile. In den unteren Umgebungen fahren wir einen aggressiveren Ansatz zur Kostenoptimierung. In der Produktion gehen wir ausgewogener vor." erklärt Caio, "Auf Basis der Ergebnisse und Metriken können wir die Änderungen problemlos auf unsere Plattform anwenden."
In Nicht-Produktionsumgebungen läuft die PerfectScale-Automatisierung kontinuierlich und passt Pods per Right-Sizing an, um Waste ohne manuelles Eingreifen zu minimieren. In der Produktion wägt die ausgewogene Policy Kosteneinsparungen gegen die Zuverlässigkeitsanforderungen des Gesundheitswesens ab. Dieser Unterschied ist entscheidend: Eine Plattform, die 100 Millionen Patienten bedient, verträgt in der Produktion nicht dieselbe Aggressivität, die in einem Staging-Cluster mit minimaler Last funktioniert.
Die Empfehlungen von PerfectScale stützen sich auf eine kontinuierliche Workload-Analyse statt auf einfache Durchschnittswerte und berücksichtigen die saisonalen Traffic-Muster und Lastspitzen, an denen der bisherige Prozess des Teams gescheitert war. Caio betont, dass sich die überwältigende Mehrheit der Empfehlungen bedenkenlos in der Produktion umsetzen ließ – und in den unteren Umgebungen wendet das System die Änderungen automatisch an.
"Der Vertrauensfaktor war uns sehr wichtig. Mehr als 90 % der Empfehlungen waren treffsicher. Sie ließen sich gefahrlos in der Produktion ausrollen.", sagt Caio.
Das Support-Team von PerfectScale stand während des gesamten Rollouts mit konkreter Unterstützung zur Seite, half beim Feintuning der Policies und beim Lösen von Edge Cases, während Caios Team die Automatisierung über alle Cluster hinweg ausrollte.
PerfectScale hat unsere gesamten EKS-Ausgaben um 40 % gesenkt, und die Automatisierungen erledigen das, wofür unser Team früher 20 Stunden im Monat gebraucht hat. Diese Zeit investieren wir jetzt in Zuverlässigkeit und Performance, statt Kostenkennzahlen hinterherzulaufen.
Caio Cristo, Director of Infrastructure/SRE
Luma Health entwickelt die Patient Success Platform, auf die sich mehr als 600 Gesundheitssysteme, Fachärztenetzwerke und Kliniken in den USA verlassen, um Patienten mit der passenden Versorgung zusammenzubringen. Die Plattform orchestriert Patient Journeys – von Terminbuchung und Kommunikation bis zu klinischen und finanziellen Workflows – und erreicht mehr als 100 Millionen Patienten. Wenn das System eines Gesundheitsdienstleisters langsamer wird oder ausfällt, verpassen reale Menschen Termine, verzögern ihre Behandlung oder verlieren das Vertrauen in ihr Versorgungsteam. Verfügbarkeit und Performance sind bei Luma Health keine Abstraktionen. Sie wirken sich direkt auf die Behandlungsergebnisse aus.
Caio Cristo, Director of Infrastructure, leitet ein global verteiltes SRE-Team aus neun Engineers in Brasilien und Europa. Das Team verantwortet alles von Container-Orchestrierung und Infrastructure-as-Code bis hin zur langfristigen Cloud-Strategie.
Mit dem Wachstum von Luma Health wuchs auch die Komplexität der Amazon-EKS-Umgebung. Das Team betrieb bereits Karpenter für die Node-Skalierung, KEDA für horizontale Pod-Autoskalierung über RabbitMQ-, HTTP- und Datenbank-Trigger sowie Datadog für Observability. Das Tooling war modern. Die Herausforderung: die Kosten im Griff behalten, ohne die Zuverlässigkeit zu gefährden, die das Gesundheitswesen verlangt.
Die Wirkung war sofort spürbar. Schon im ersten Optimierungszyklus identifizierte PerfectScale eine Kostenreduktion von 40 % bei den EKS-spezifischen Ausgaben – das entspricht rund 15 % der gesamten AWS-Ausgaben von Luma Health.
Die Zeitersparnis war ebenso einschneidend. Caios SRE-Team verzeichnete einen Rückgang um 90 % beim Zeitaufwand für Kubernetes-Right-Sizing und konnte Engineers über drei Zeitzonen hinweg auf die Arbeit konzentrieren, die die Plattform wirklich voranbringt.
Vielleicht am wichtigsten: PerfectScale lieferte Caio ein belastbares Argument für das wiederkehrende Budgetgespräch mit dem Finanzteam von Luma Health. Als der Cache-Layer zusätzliche Investitionen erforderte, um die Anwendungsperformance zu sichern, konnte das SRE-Team auf nachweisbare Kubernetes-Einsparungen als Gegenfinanzierung verweisen. Das Gespräch verlagerte sich vom Verteidigen von Kosten hin zur strategischen Umverteilung von Einsparungen. AWS lieferte über Amazon EKS weiterhin das zuverlässige, skalierbare Compute-Fundament, während PerfectScale by DoiT dafür sorgte, dass jeder darauf ausgegebene Dollar das Maximum leistet.
"Was uns PerfectScale enorm geholfen hat, war diese Kostenbalance herzustellen. Wir müssen unseren Cache-Layer ausbauen – aber gibt es woanders etwas, das wir einsparen können? Beim ersten Anwenden der Empfehlungen kamen wir auf rund 40 % EKS-Einsparung pro Jahr. Das hilft definitiv in Gesprächen, in denen wir unsere Position zwischen Zuverlässigkeit und Kosteneinsparungen verteidigen müssen." Caio Cristo, Director of Infrastructure bei Luma Health
Mit PerfectScale für die Optimierung auf Workload-Ebene betreibt Luma Health jetzt eine Autoscaling- und Optimierungs-Pipeline über den gesamten Kubernetes-Stack auf AWS. Karpenter steuert die Skalierung auf Node-Ebene, KEDA treibt die horizontale Pod-Autoskalierung über RabbitMQ-, HTTP- und Datenbank-Trigger an, und PerfectScale optimiert kontinuierlich die Resource Requests und Limits, die darüber entscheiden, wie effizient jeder Pod die von Karpenter bereitgestellte Kapazität nutzt.
Diese Kombination sorgt dafür, dass die Amazon-EKS-Umgebung von Luma Health auf jeder Ebene effizient skaliert: Infrastruktur, Pod-Anzahl und einzelne Workload-Ressourcen. Wenn die Plattform wächst, um mehr Gesundheitssysteme und mehr Patienten zu bedienen, skaliert dieser Stack mit – und der Nutzen der automatisierten Optimierung verstärkt sich im Lauf der Zeit.
Caio und sein Team arbeiten weiterhin eng mit dem Support-Team von PerfectScale zusammen, um die Automatisierungs-Policies über alle Umgebungen hinweg zu verfeinern und die richtige Balance aus Kosteneffizienz und Zuverlässigkeit zu sichern, während sich die Workloads weiterentwickeln. Das Ziel ist einfach: Kubernetes-Kosten planbar halten, während Luma Health seine Mission verfolgt, das Gesundheitswesen für jeden Patienten besser zu machen.
