HBM-Speicher (High Bandwidth Memory) ist eine Speichertechnologie, die speziell für extrem speicherbandbreitenschonende Anwendungen entwickelt wurde. Diese Chips erreichen deutlich höhere Datenübertragungsraten als konventionelle DRAM-Speicher und benötigen dabei weniger Platz und Energie. Dies macht sie ideal für KI-Beschleunigerchips, die grosse Datenmengen in hohem Tempo verarbeiten müssen.
Die Nachfrage nach HBM ist in den letzten Jahren explosiv gewachsen, angetrieben durch den weltweiten KI-Boom. Nahezu jeder neue KI-Accelerator, den Nvidia, AMD, Google oder andere Hersteller entwickeln, nutzt HBM-Speicher. Da Training und Inferenz von grossen Sprachmodellen speicherbandbreitenlimitiert sind, ist HBM nicht optional, sondern ein entscheidender Engpass.
Samsung, SK Hynix und andere Speicherhersteller produzieren bereits auf Hochtouren, können aber die globale Nachfrage nicht decken. Dies führt zu Lieferengpässen und zieht die Preise in die Höhe. Cloud-Anbieter, die tausende von KI-Acceleratoren kaufen möchten, finden sich plötzlich in Engpässen wieder. Kleinere Unternehmen und Startups haben oft gar keine Chance, notwendige Hardware zu bekommen.
Die Situation treibt interessante Dynamiken: Cloud-Anbieter versuchen, durch langfristige Verträge die Speicherproduktion zu sichern. Chiphersteller erwägen neue Technologien wie chiplet-basierte Ansätze, um Produktions-Bottlenecks zu umgehen. Und die Preise für KI-Computing steigen kurzfristig an.
Für KMU-Kunden bedeutet dies, dass KI-Services kostspieliger werden und verfügbar bleiben können. Langfristig sollte sich die Situation entspannen, aber mittelfristig ist mit erhöhten Investitionen in KI-Infrastruktur zu rechnen.