Sicherheitsforscher haben eine besorgniserregende Schwachstelle bei Metas KI-Chatbot Muse aufgedeckt: Tausende von Chats, die Nutzer als privat teilen wollten, wurden über passive DNS-Datenbanken offengelegt. Das bedeutet, dass persönliche Unterhaltungen mit der KI, die eigentlich nur dem Nutzer zugänglich sein sollten, von aussen einsehbar wurden.
Der technische Hintergrund dieser Sicherheitslücke liegt in der Art, wie Muse die Sharing-Funktionalität implementierte. Wenn Nutzer einen Chat-Link teilen, wird dieser über einen Link zugänglich, dessen Domain in DNS-Abfragen auftaucht. Passive DNS-Datenbanken speichern diese Abfragmuster und ermöglichen es Forschern und möglicherweise auch Angreifern, die Existenz dieser Links zu entdecken und darauf zuzugreifen. Damit wurden Chats mit vermeintlich privaten Inhalten, einschliesslich persönlicher Informationen, einsehbar.
Dies ist kein isoliertes Problem von Muse, sondern exemplarisch für grössere Herausforderungen im Umgang mit KI und Datenschutz. KI-Systeme verarbeiten sensible Informationen, und wenn die Architektur nicht korrekt gesichert ist, können selbst apparente Sicherheitsmassnahmen durchbrochen werden. Nutzer geben häufig persönliche Details in KI-Chats ein, ohne sich der Sicherheitsrisiken bewusst zu sein.
Für KMU-Betriebe ist dies eine wichtige Lektion: Bevor interne Prozesse oder Kundeninteraktionen auf KI-Plattformen ausgelagert werden, sollten Sicherheit und Datenschutz gründlich überprüft werden. Es genügt nicht, einem grossen Anbieter zu vertrauen. Unternehmen sollten von ihren KI-Anbietern klare Informationen zur Datensicherheit, Verschlüsselung und zum Umgang mit sensiblen Informationen einfordern. Eine regelmässige Sicherheitsüberwachung und Penetrationstests können solche Lücken aufdecken, bevor sie zu Datenverlust führen.