Meta's KI-Assistent Muse sammelt nach Medienberichten weit mehr Daten als Nutzer erwarten würden. Das System legt nicht nur Profile über die Nutzer selbst an, sondern erstellt auch detaillierte Berichte über deren Freunde, Familie und Bekannte. Dies geschieht ohne explizite Zustimmung dieser Personen.
Die Praxis wird als problematisch eingestuft, weil sie klassische Datenschutzprinzipien verletzt. Personen, die nicht selbst mit Muse interagieren, werden Profile erstellt, ohne dass sie davon wissen oder dieser Verarbeitung zustimmen können. Dies wird als indirekte Datenerfassung kritisiert, die sich der normalen Kontrollmechanismen entzieht.
Hinzu kommen weitere datenkritische Aspekte des Systems: Muse erfasst möglicherweise Informationen über Beziehungen, finanzielle Verhältnisse und persönliche Vorlieben von Kontakten. Diese Informationen könnten für profilbasierte Werbung, Manipulation oder sogar Diskriminierung missbraucht werden. Besonders problematisch ist, dass Nutzerkontakte keinen Weg haben, diese Datenerfassung zu unterbinden.
Für Unternehmen und Einzelnutzer ist dies eine Mahnung: Beim Einsatz von KI-Assistenten und Social-Media-Plattformen sollten sich Nutzer der Datensammelpraktiken bewusst sein. Im B2B-Kontext können solche Datenerfassungspraktiken zu Compliance-Risiken führen, besonders unter DSGVO und künftigen Regulierungen wie der Digital Services Act. KMUs sollten ihre Mitarbeitenden sensibilisieren und klare Richtlinien zum Umgang mit solchen Systemen etablieren.