Der Bundesstaat Kalifornien hat Klage gegen OpenAI eingereicht und wirft dem KI-Unternehmen vor, die Öffentlichkeit zu täuschen und Sicherheitsrisiken zu unterschätzen. Die Anklage ist ein bedeutsamer Schritt in der Regulierung von Künstlicher Intelligenz und hat Auswirkungen auf die Entwicklungs- und Marktpraktiken globaler KI-Hersteller.

Die konkrete Vorwurf: OpenAI haben öffentlich behauptet, dass ihre KI-Modelle sicher und kontrolliert seien, hätten aber intern unzureichende Sicherheitstests durchgeführt. Die Klage legt dar, dass OpenAI Risiken von Missbrauch (z.B. Generierung von Malware, Betrugs-Skripten) bekannt waren, diese aber nicht öffentlich kommuniziert haben.

OpenAI reagierte darauf, indem das Unternehmen ankündigte, verstärkte externe Sicherheitsprüfungen durchzuführen. Dies ist ein Zugeständnis, dass eigene Tests offenbar nicht ausreichend waren. Externe Audits durch unabhängige Sicherheitsfirmen sind ein wichtiger Schritt zur Glaubwürdigkeit.

Dieser Fall signalisiert einen Wendepunkt in der KI-Regulierung. Staaten und Bundesländer werden zunehmend aggressive und fordern, dass Hersteller nachweisbar sichere Modelle deployen, nicht nur behaupten, dass sie es tun. Dies wird zu höheren Entwicklungskosten, längeren Markteinführungszeiten und strengerem Compliance-Druck führen.

Für KMU-Betriebe, die KI-Tools einsetzen oder integrieren, ist dies relevant: Sie sollten bei der Auswahl von KI-Anbietern auf externe Sicherheitszertifikate und Audits achten. Die Klage gegen OpenAI unterstreicht, dass «Vertrauenswürdigkeit» nicht selbstdeklariert sein kann, sondern durch externe Validierung gestützt sein sollte.