Die Europäische Kommission hat ein Untersuchungsverfahren gegen OpenAI eingeleitet. Der Grund liegt in einem Sicherheitsvorfall, den das Unternehmen nicht fristgerecht den zuständigen Behörden mitgeteilt hat. Der Zwischenfall ereignete sich im Software-Register RubyGems, einem zentralen Repository für Open-Source-Code, das von vielen Entwicklern weltweit genutzt wird.
Nach dem kürzlich in Kraft getretenen AI Act (Gesetz über künstliche Intelligenz) der EU sind Betreiber von KI-Systemen verpflichtet, erhebliche Sicherheitsvorfälle gegenüber den nationalen Behörden zu melden. Ziel dieser Regelung ist es, Risiken schneller zu erkennen und zu minimieren. OpenAI hätte den Vorfall also eigentlich zeitnah berichten müssen, unterliess dies jedoch.
Dieser Fall zeigt ein wachsendes Problem: Während die KI-Industrie rasant wächst, sind die regulatorischen Anforderungen erst kürzlich verankert worden. Viele Unternehmen müssen sich an völlig neue Compliance-Prozesse gewöhnen. Der AI Act sieht verschiedene Kategorien von KI-Systemen vor und unterscheidet zwischen Hochrisiko-, Mittelhoch- und Niedrigrisiko-Anwendungen. Entsprechend unterschiedlich fallen die Meldepflichten aus.
Für Schweizer IT-Dienstleister ist dieses Verfahren relevant, da auch sie europäische Kunden mit KI-Lösungen betreuen oder selbst KI-Tools einsetzen. Die zunehmende Regulierung in Europa könnte langfristig auch auf Schweizer Märkte ausstrahlen, etwa bei grenzüberschreitenden Projekten. Unternehmen sollten daher bereits jetzt prüfen, wie sie KI-Sicherheitsvorfälle dokumentieren und an wen sie solche melden müssen.
OpenAI könnte bei Verstössen gegen den AI Act mit erheblichen Geldbussem rechnet werden. Die Untersuchung ist Teil einer breiteren EU-Strategie, KI-Entwicklern mehr Verantwortung aufzuerlegen und gleichzeitig Innovationen nicht zu ersticken.