OpenAI hat eine spezialisierte Version von ChatGPT für Teenager entwickelt. Das Ziel ist, junge Nutzer mit KI-Werkzeugen vertraut zu machen und Lernhilfen bereitzustellen. Doch intensive Tests durch Fachleute haben gravierende Lücken offenbart.
Das Hauptproblem liegt darin, dass die Plattform zwar altersabhängige Zugangsregeln hat, aber in der Praxis nicht robust schützt. So können Teenager beispielsweise problematische Inhalte abrufen, die nicht altersgerecht sind. Gleichzeitig sind die Datenschutzmassnahmen unklar. Nicht vollständig transparent ist, wie OpenAI Daten von Minderjährigen speichert, verarbeitet und möglicherweise für das Training weiterer KI-Modelle nutzt.
Die Tests zeigen auch, dass Sicherungsmechanismen teilweise umgangen werden können. Ein erfahrener Teenager könnte unter Umständen das System manipulieren, um Inhalte oder Funktionen freizuschalten, die eigentlich blockiert sein sollten. Zudem variiert die Qualität von Lernhilfen erheblich; manchmal liefert ChatGPT ungenaue oder übervereinfachte Antworten, die mehr verwirren als helfen.
Für IT-Dienstleister und Unternehmen, die mit solchen Plattformen arbeiten, sind diese Befunde wichtig. Sie zeigen erstens, dass KI-Systeme mit Jugendschutzauflagen komplexer sind als oft angenommen. Zweitens wird deutlich, dass Regulierung nötig ist: Die USA und Europa müssen Standards definieren, wie KI-Dienste mit Minderjährigen umgehen müssen. Schweizer Unternehmen, die KI-Lösungen anbieten oder nutzen, sollten ähnliche Anforderungen proaktiv einbauen, um künftige Regulierung zu erfüllen.