Das Phänomen, dass Nutzer KI-Chatbots mit intimsten persönlichen Angelegenheiten anvertrauen, offenbart einen grundlegenden Widerspruch: Menschen suchen Rat und Unterstützung bei Systemen, ohne vollständig zu verstehen oder zu vertrauen, wie ihre Daten verwaltet werden.
Die Untersuchung deckte auf, dass viele Nutzer ihre mentale Gesundheit, finanzielle Probleme und zwischenmenschliche Konflikte mit KI-Assistenten besprechen. Dies ist psychologisch verständlich: Chatbots sind verfügbar, nicht wertend, anonym erscheinend und nicht mit sozialer Stigmatisierung verbunden, wie es bei menschlichen Vertrauenspersonen der Fall sein kann.
Gleichzeitig sind sich diese Nutzer durchaus bewusst, dass ihre Gesprächsdaten irgendwo gespeichert, analysiert und möglicherweise für weitere KI-Training verwendet werden könnten. Diese Diskrepanz zwischen Vertrauen in die Gesprächsfunktion und Misstrauen in Datenschutzmassnahmen ist problematisch.
Die Anbieter dieser Systeme (OpenAI, Anthropic, Meta und andere) haben unterschiedliche Datenschutzpolitiken. Manche versprechen, dass bestimmte Nutzerinteraktionen nicht zum Training verwendet werden, andere sind vager. Es gibt keine Branchenstandards oder einheitlichen Regulierungen, die Nutzer verlässlich schützen würden.
Für Schweizer Unternehmen und IT-Dienstleister ergibt sich daraus eine wichtige Anforderung: Wenn Sie KI-Systeme in interne Prozesse integrieren oder an Kunden empfehlen, müssen Sie klare Datenschutzmassnahmen etablieren und kommunizieren. Mitarbeiter und Kunden sollten wissen, welche Daten mit KI-Systemen geteilt werden, wie sie verarbeitet werden und welche Risiken bestehen. Regulatorisch relevant ist auch die geplante Europäische KI-Verordnung, die Anforderungen an hochriskante KI-Systeme und Transparenz schärft.