Der US-Bundesstaat Kalifornien hat rechtliche Schritte gegen OpenAI eingeleitet. Die Klage wirft dem KI-Startup vor, die Öffentlichkeit "irregeführt und gefährdet" zu haben, indem es KI-Modelle ohne vollständige Transparenz und Sicherheitsmassnahmen bereitgestellt habe. Dies ist ein bedeutender Schritt in der regulatorischen Auseinandersetzung mit KI-Anbietern.

Die Klage adressiert mehrere zentrale Kritikpunkte an OpenAI. Erstens wird argumentiert, dass OpenAI die Öffentlichkeit über die Fähigkeiten und Sicherheitscharakteristiken seiner Modelle, insbesondere ChatGPT, getäuscht haben könnte. Zweitens wird die mangelnde Transparenz über mögliche Risiken und Fehlverhalten der KI-Systeme kritisiert. Drittens wird Frage aufgeworfen, ob OpenAI angemessen warnt, wenn ihre Systeme zu Schaden führen können.

Dies ist Teil eines breiteren Trends der regulatorischen Kontrolle von KI-Unternehmen. Verschiedene Jurisdiktionen, Staaten und Länder versuchen, KI-Hersteller zur Rechenschaft zu ziehen und stärkere Transparenz und Sicherheitsstandards zu durchzusetzen. Kalifornien, als technologisches Zentrum und bevölkerungsreichster US-Staat, hat hier besonderes Gewicht.

Für europäische und schweizer IT-Dienstleister ist diese Entwicklung relevant, da sie einen Präzedenzfall darstellt. Falls Kalifornien Erfolg hat, könnten ähnliche Massnahmen in Europa folgen, insbesondere unter dem Dach des geplanten AI Act. Unternehmen, die KI-Systeme einsetzen oder bereitstellen, sollten deren Verhalten genau dokumentieren und Transparenz gegenüber Nutzern gewährleisten, um sich selbst zu schützen. Dies verstärkt die Notwendigkeit, KI-Projekte mit Sorgfalt und Risikoabwägung anzugehen.