AIレコメンデーションでK8sコストを半減

proteanTecsはPerfectScale by DoiTを導入しました。PerfectScaleは各サービスの割り当てリソースと実際の使用率を比較して過剰プロビジョニングを特定し、コスト削減につながる安全かつ具体的なアクションを提案します。チームはまず開発環境に展開し、その後本番環境へと拡大。PerfectScaleの調整可能な「レジリエンスレベル」を活用して重要なサービスに余裕を持たせ、安定性を確保しました。さらにPerfectScaleは、既存の監視ツールでは検知できていなかったスロットリング、OOM kill、コンテナ再起動に悩まされていたリソース不足のサービスも明らかにしました。

proteanTecsは、エレクトロニクス業界のスケールを可能にすることを使命としています。同社のクラウドベースのプラットフォームは、詳細なテレメトリデータと機械学習を組み合わせて先端チップの状態と性能を監視し、エレクトロニクスの信頼性を実現する手法そのものを変革しています。proteanTecsのソリューションは、半導体、データセンター、自動車業界の主要顧客に利用される重要なコンポーネントであり、安定性、拡張性、高可用性を備えたアプリケーションインフラが不可欠です。こうした要件に応えるため、proteanTecsはAWS、Azure、Google Cloudにまたがる30以上のクラスタで、プラットフォーム全体をKubernetes上で運用しています。

proteanTecsの機能とエンドユーザーの利用が拡大するにつれ、当初の安定性と可用性重視の姿勢に代わって、新たな課題が浮上しました。最適化されていないリソースがクラウド費用を押し上げていたのです。「開発チームはマイクロサービスを構築し、リソースのリクエストとリミットを自ら設定します」と、proteanTecsのDevOpsディレクターであるAmit Daniel氏は説明します。「しかし開発者は、サービスが想定どおりに動作するよう、リスクを避けて多めにリソースを割り当てがちでした。このアプローチでシステムの可用性と安定性は保たれていましたが、コストの面では非効率でした」。DevOpsチームはK8s環境の最適化を任されましたが、既存のツールには大きなギャップがありました。「DataDogのようなツールでは、リクエストやリミットなど見たいものは何でも見られます。しかし、それは可視化にすぎません。マイクロサービスが適切に動作するために必要なリソースについて、より深いインサイトが必要でした」とDaniel氏は語ります。

PerfectScale by DoiTを知ったproteanTecsチームは、まず開発環境に導入し、すぐに最適化の機会を見つけ始めました。「開発環境には月額およそ1万ドルのコストがかかっていました」とDaniel氏は言います。「PerfectScaleのレコメンデーションを実行することで、環境の安定性を損なうことなくコストを5,000ドルまで削減できました」。本番環境への展開にあたっては、PerfectScaleの調整可能な「レジリエンスレベル」を活用して重要なサービスに余裕を持たせ、コスト最適化の取り組みがシステムパフォーマンスに影響しないようにしました。

コスト削減にとどまらず、PerfectScaleは見過ごされていた信頼性の問題も明らかにしました。「発生していることに気づいていなかったスロットリング、OOM、コンテナ再起動が見つかりました。その多くは監視システムのアラートを発生させていませんでした。また、適切なメトリクスを収集していなければ、メモリリークのような問題の根本原因を特定するのは困難で時間もかかります」とDaniel氏は語ります。「PerfectScaleは問題を即座に特定し、迅速に解決する方法を示してくれます。その結果、プラットフォームのパフォーマンスが向上し、お客様により良い体験を提供できるようになっています」

現在はDevOpsチームが最適化を主導していますが、今後は開発者にもオーナーシップを広げていく計画です。「私はブラウザで常にPerfectScaleを開いていますが、コスト最適化の初期フェーズが完了したら、対象範囲を開発者に拡大する予定です」とDaniel氏は言います。目標は、エンジニアリング全体にコスト意識と責任を根付かせること。開発者には、リリースとデプロイのたびに自らのサービスのコスト効率を評価することが求められるようになります。「アプリケーションに新しいイノベーションを継続的に投入し、顧客基盤が拡大する中で、環境をできる限り効率的に成長させたいと考えています」とDaniel氏。「PerfectScaleは、環境のコスト効率と安定性を維持するうえで欠かせないソリューションになるでしょう」