Künstliche Intelligenz wird zunehmend dezentralisiert. Während Cloud-basierte KI-Services wie ChatGPT oder andere Modelle weiterhin weit verbreitet sind, zeigt sich ein wachsendes Interesse an lokalen KI-Lösungen, die auf dem eigenen Gerät oder dem Unternehmensserver laufen. Das Startup Perplexity hat nun einen lokalen KI-Agenten vorgestellt, der speziell für diese Anforderung optimiert wurde.
Der neue Agent von Perplexity soll nach Aussage des Unternehmens in Bezug auf Leistung und Zuverlässigkeit bisherige offene Modelle wie Hermes und Pi übertreffen. Das ist beeindruckend, wenn es in der Praxis hält, was versprochen wird. Der Agent ist als Modell sowie als trainierter Agent verfügbar und kann direkt auf lokalen Systemen eingesetzt werden, ohne Daten an externe Cloud-Provider zu senden.
Agenten unterscheiden sich von klassischen Sprachmodellen dadurch, dass sie mehrere Schritte planen und ausführen können, um eine Aufgabe zu lösen. Ein Agent kann beispielsweise überlegen, welche Informationen er benötigt, diese recherchieren, sie analysieren und dann eine Handlung einleiten. Dies macht sie für Unternehmensanwendungen besonders wertvoll, wo Automatisierung von komplexen Prozessen einen hohen Nutzen bringt.
Wichtig zu verstehen ist auch die geschäftliche Motivation hinter dieser Ankündigung. Perplexity betreibt selbst einen KI-Service in der Cloud. Mit der Veröffentlichung eines lokalen Agenten erreicht das Unternehmen mehrere Ziele gleichzeitig: Es demonstriert die Leistung seiner KI-Entwicklung, generiert Aufmerksamkeit und schafft Abhängigkeiten für zukünftige Services. Trotzdem ist dies für Nutzer ein Gewinn, da lokale KI-Optionen mehr Kontrolle ermöglichen.
Für Unternehmen bedeutet das lokale KI-Agentenmodell einen wichtigen Fortschritt. Datenschutzbedenken, die bei Cloud-basierten KI-Lösungen entstehen, können durch lokale Verarbeitung adressiert werden. Besonders in regulatorisch sensiblen Bereichen wie dem Finanzwesen oder im Gesundheitswesen ist dies attraktiv. Allerdings erfordert der Betrieb lokaler KI-Systeme ausreichende Hardware-Ressourcen und IT-Expertise. KMU sollten evaluieren, ob die erhöhte Kontrolle und Datensicherheit den zusätzlichen Aufwand rechtfertigt oder ob eine hybride Lösung sinnvoller ist.