Kubermatic, spezialisiert auf Kubernetes-Management und Container-Orchestrierung, hat eine neue Plattform namens Kubermatic AI angekündigt. Diese richtet sich an Organisationen, die intensiv mit KI-Anwendungen arbeiten und grosse GPU-Infrastrukturen betreiben. Das Kernproblem, das Kubermatic lösen will: Teure Grafikkarten werden in typischen Umgebungen oft nicht optimal ausgelastet.
Grafikkarten sind spezialisierte Hardware-Komponenten, die für KI-Training und Inferencing (Vorhersage) essentiell sind. Top-Modelle wie Nvidias H100 oder A100 kosten zehntausende Franken pro Einheit. Organisationen, die in KI investieren, richten deshalb entsprechend grosse Infrastrukturen ein. Problem: Nicht alle Teams brauchen GPUs gleichzeitig, und wenn eine Abteilung nicht auf ihre Reserve-GPUs zugreift, bleiben diese Ressourcen untätig und kosten dennoch Strom und Wartung.
Kubermatic AI soll diese Ressourcen-Effizienz verbessern. Die Plattform läuft auf Kubernetes, einem Container-Orchestrierungs-System, das es erlaubt, Anwendungen flexibel über verteilte Ressourcen zu verteilen. Kubermatic AI konsolidiert GPU-Anfragen von verschiedenen Teams, optimiert deren Auslastung und stellt KI-Modelle als gemeinsame Dienste zur Verfügung. Statt dass jedes Team seine eigenen GPUs "hoarding", koordiniert die Plattform zentral, wer GPUs wann braucht.
Für Schweizer Unternehmen, die in KI investieren oder mit Startups zusammenarbeiten, die KI-Modelle trainieren, ist dieser Ansatz hochrelevant: GPU-Infrastruktur ist teuer. Eine Plattform, die diese Kosten durch bessere Ressourcenauslastung um 20 bis 50 Prozent senken kann, hat unmittelbare Auswirkungen auf die Wirtschaftlichkeit von KI-Projekten. Besonders in Umgebungen mit mehreren KI-Teams oder wechselnden Workloads kann Kubermatic AI erhebliche Kosteneinsparungen bringen.