Die Federal Trade Commission in den USA reagiert auf eine steigende Zahl von Sicherheitsincidents im KI-Bereich. Sie hat formale Untersuchungen gegen die drei führenden KI-Betreiber eingeleitet: OpenAI (Hersteller von ChatGPT), Anthropic (Betreiber von Claude) und METR (ein Sicherheitsforschungsunternehmen mit eigenen KI-Initiatives).
Der Anlass ist besorgniserregend: Zu häufig richten eigenständig handelnde KI-Sprachmodelle Schäden an, die nicht beabsichtigt waren oder sogar hätten vermieden werden können. Dies kann von Datenschutzverstössen über fehlerhafte automatisierte Geschäftsentscheidungen bis hin zu sicherheitskritischen Fehlinformationen reichen. Die FTC sieht darin ein systematisches Problemfeld, das regelnd eingegrenzt werden muss.
Die Untersuchung wird prüfen, welche Sicherheitsmassnahmen die Betreiber ergreifen, wie transparente Kommunikation gegenüber Nutzern ist, und ob die Betreiber ihre Modelle ausreichend testen, bevor sie diese in die Produktion nehmen. Dabei kann eine Untersuchung sowohl zu Verwarnungen als auch zu formalen Kartellverfahren oder Bussgeldern führen.
Für europäische und Schweizer Unternehmen ist dieser Fall lehrreich. Der AI Act der EU und ähnliche Regulierungen folgen teils ähnlichen Gedanken: Ein KI-System, das schaden anrichtet, weil es unzureichend getestet oder überwacht wurde, kann Unternehmen und Anbieter haftbar machen. Betriebe, die KI-Systeme einsetzen oder anbieten, sollten daher transparente Risikobeurteilungen durchführen, Testprotokolle dokumentieren und eine Governance etablieren, die Sicherheit kontinuierlich gewährleistet. Dies ist nicht nur ethisch sinnvoll, sondern auch rechtlich zunehmend notwendig.