Recherchen haben enthüllt, dass OpenAI ein Praxis betreibt, die viele Nutzer nicht bewusst waren: Externe Dienstleister lesen und bewerten Gespräche, die Nutzer mit ChatGPT führen. Dies geschieht, um das KI-Modell zu verbessern, indem echte Nutzerdaten analysiert werden. Allerdings wurde diese Praktik bisher nicht ausreichend transparent kommuniziert.
Dies ist eine datenschutz- und sicherheitsrelevante Problematik. Chatverläufe können sensible Informationen enthalten: Geschäftsgeheimnisse, persönliche Daten, Finanzinformationen oder andere vertrauliche Inhalte. Die Tatsache, dass externe Dienstleister Zugriff auf diese Daten haben, erhöht das Risiko von unbefugtem Zugriff, Missbrauch oder Datenlecks erheblich.
Besonders problematisch ist die Opazität dieses Prozesses. Nutzer, die ChatGPT einsetzen, wissen oft nicht, dass ihre Daten von Menschen gelesen und bewertet werden. Sie könnten davon ausgehen, dass Daten automatisch verarbeitet werden oder dass sie privat bleiben. Die Realität ist komplexer: Ihre Eingaben werden potentiell mit echten Menschen geteilt, die diese Daten für ML-Feedback-Prozesse nutzen.
Dies hat erhebliche Implikationen für Sicherheit und Compliance. Unternehmen, die ChatGPT nutzen, müssen sicherstellen, dass sie keine vertraulichen Daten in die Plattform eingeben, wenn externe Bearbeitung möglich ist. Dies könnte gegen Datenschutzgesetze oder interne Sicherheitsrichtlinien verstossen.
Für Schweizer KMU ist dies ein wichtiger Punkt bei der Entscheidung über den Einsatz von Cloud-KI-Services. Bevor solche Dienste eingesetzt werden, sollte geklärt werden: Welche Daten werden verarbeitet? Wer hat Zugriff? Werden Daten für Training oder Verbesserung des Modells verwendet? Diese Fragen sollten geklärt werden, bevor sensible Daten in solche Systeme eingegeben werden. Ein Daten-Governance-Prozess ist daher notwendig.