OpenAI hat ein internes Spezialistenteam aufgelöst, das sich intensiv mit der Erkennung und Prävention von katastrophalen Risiken durch KI-Systeme beschäftigt hatte. Das sogenannte Preparedness-Team war gegründet worden, um systematisch zu untersuchen, wie KI-Modelle missbraucht werden könnten oder welche unerwarteten Verhaltensweisen sie entwickeln könnten. Mit seiner Auflösung werden diese Aufgaben künftig in bestehende Teams integriert, statt sie als spezialisierte, eigenständige Funktion zu belassen.
Diese Organisationsänderung fällt in eine Zeit, in der KI-Sicherheit und der verantwortungsvolle Umgang mit fortgeschrittenen Sprachmodellen unter zunehmender Beobachtung stehen. Die Auflösung eines dedizierten Teams für diese kritische Aufgabe könnte als Signal interpretiert werden, dass Sicherheitsforschung und Risikoanalyse bei OpenAI künftig weniger priorisiert wird oder zumindest organisatorisch weniger prominent verankert ist.
Für KMU-Kunden, die KI-Dienste nutzen oder einsetzen, hat diese Entscheidung indirekte Auswirkungen. Wenn die Sicherheitsforschung weniger strukturiert erfolgt, besteht möglicherweise ein erhöhtes Risiko für unvorhersehbare Verhaltensweisen oder Sicherheitslücken in KI-Systemen. Unternehmen sollten sich daher stärker selbst mit dem Testing und der Evaluation von KI-Modellen beschäftigen, bevor sie diese in produktiven Umgebungen einsetzen.
Die Verantwortung für sichere KI-Systeme liegt damit nicht nur bei den Entwicklern wie OpenAI, sondern zunehmend auch bei den Organisationen, die diese Systeme nutzen. Dies unterstreicht die Notwendigkeit, KI-Risiken im Anforderungskatalog bei der Auswahl von AI-Dienstleistern stärker zu berücksichtigen und interne Richtlinien für den Einsatz zu etablieren.