Eine Koalition von acht US-Bundesstaaten hat offizielle Klage gegen OpenAI eingereicht. Der Vorwurf lautet, dass das Unternehmen die Sicherheitsrisiken von ChatGPT, insbesondere für Kinder und Jugendliche, systematisch verharmlost hat.
OpenAI hat mit ChatGPT eines der einflussreichsten KI-Systeme der Welt entwickelt. Die Anwendung wird von Millionen Menschen täglich genutzt, darunter auch Minderjährige. Die Klage konzentriert sich auf mehrere Punkte: Erstens soll OpenAI nicht ausreichend vor psychologischen Risiken warnen, wie der Verstärkung von Wahnvorstellungen oder suizidalem Gedankengut. Zweitens werden fehlende Sicherheitsarchitekturen kritisiert, die Kinder vor unangemessenem Inhalt schützen sollen.
Dies ist ein hochpolitisches Verfahren, das die wachsende Spannung zwischen innovativer KI-Entwicklung und regulatorischem Schutz widerspiegelt. Die USA haben lange ein libertäres Modell verfolgt, bei dem Unternehmen relativ viel Freiheit haben, ihre Produkte zu entwickeln. Doch nun werden die Fragen nach Verantwortung drängender.
Die Kläger fordern auch, dass das Unternehmen Tests mit fortgeschrittenen KI-Modellen einschränken sollte, bis Sicherheitsfragen besser geklärt sind. Dies würde bremsen auf die rasante KI-Entwicklung bedeuten.
Für KMUs und Unternehmen weltweit hat diese Klage mehrere Implikationen: Erstens signalisiert sie, dass Regulierung von KI-Systemen kommen wird. Organisationen sollten damit rechnen, dass deren KI-Einsatz zukünftig stärkere Compliance-Anforderungen erfüllen muss. Zweitens wird die Frage nach KI-Sicherheit und Ethik zunehmend juristisch relevant. Wer KI-Systeme einsetzt, muss deren Risiken verstehen und dokumentieren. Drittens wird deutlich: Die Zeit des ungebremsten, unregulierten KI-Einsatzes neigt sich dem Ende zu.