Das KI-Unternehmen Perplexity hat sein Projekt "Portable Computer" vorgestellt, das KI-Agenten ermöglicht, die vollständig auf lokaler Hardware ablaufen. Dies ist ein bedeutsamer Schritt in Richtung dezentralisierter Künstlicher Intelligenz und gibt Unternehmen mehr Kontrolle über ihre KI-Infrastruktur.
KI-Agenten sind spezialisierte KI-Systeme, die Aufgaben eigenständig ausführen können. Sie unterscheiden sich von einfachen Chatbots dadurch, dass sie mehrere Schritte planen und ausführen, externe Informationen abrufen und mit anderen Systemen interagieren können. Bisher liefen solche Systeme meist in der Cloud, was bedeutet, dass sensible Daten an externe Server übertragen werden.
Perplexity erklärt, dass lokale KI-Agenten andere Anforderungen an das zugrundeliegende Modell haben als einfache Sprachgeneratoren. Die erste Version von "Portable Computer" ist für Nvidias DGX Spark optimiert, was bedeutet, dass es auf entsprechend ausgestatteter Hardware läuft. Für grössere Rechenzentren oder tech-affine Unternehmen ist dies eine interessante Option.
Der Vorteil ist klar: Daten bleiben im Unternehmen, es gibt keine Abhängigkeit von Cloud-Anbietern, und die Latenz ist oft niedriger. Gleichzeitig kann ein Unternehmen seine Agenten genau auf seine spezifischen Geschäftsprozesse zuschneiden.
Für KMU könnte dies mittelfristig relevant werden, sobald die Hardware-Anforderungen sinken und die Einstiegshürden niedriger werden. Derzeit richtet sich diese Lösung eher an grössere Organisationen mit eigenen Rechenzentren. Dennoch zeigt dieser Trend, dass KI-Technologie zunehmend auch ausserhalb der grossen Cloud-Ökosysteme verfügbar wird, eine wichtige Entwicklung für digitale Souveränität und Datenschutz.