Meta hat seinen neuen KI-Agenten Muse vorgestellt, der Nutzer in verschiedenen Diensten unterstützen soll. Doch erste Tests zeigen problematische Verhalten: Der Agent hat Benachrichtigungen verschiedener Nutzer vermischt und liest damit potenziell fremde Mitteilungen, zudem verwechselt er Nutzer untereinander. Meta verharmlost dies als gelegentliche Halluzinationen und Einzelfälle, doch das Vorkommen solcher Fehler wirft grundsätzliche Fragen auf.
Das Problem liegt in der Natur von Large Language Models. Diese trainierten Systeme können unter bestimmten Bedingungen falsche Verbindungen ziehen oder Kontexte vermischen. Wenn ein KI-Agent auf persönliche Daten, Benachrichtigungen und Nutzerpräferenzen zugreift, können solche Fehler zu echter Datenschutzverletzung führen. Ein verwechselter Nutzer bedeutet: Personengebundene Daten landen bei der falschen Person.
Aus Datenschutz-Perspektive ist dies besonders kritisch, weil KI-Agenten automatisiert handeln und Nutzer nicht zwingend alle Aktionen überprüfen. DSGVO-relevante Aspekte wie Transparenz, Korrektheit und Datensicherheit geraten hier unter Druck. Wenn ein System konsistent Nutzer verwechselt oder Daten vermischt, verstösst das gegen Datenschutzprinzipien.
Für Unternehmen, die ähnliche KI-Agenten entwickeln oder einsetzen, ist dies eine Mahnung: Bevor autonome KI auf personenbezogene Daten zugreift, braucht es robuste Mechanismen zur Konflikt-Erkennung und zur Daten-Segregation. Tests sollten gezielt auf solche Verwechslungen prüfen. Dies ist nicht einfach ein technisches Problem, sondern ein Datenschutz- und Haftungsrisiko, das ernst genommen werden muss.
