Die Europäische Kommission hat TikTok aufgefordert, fundamentale Änderungen an seinem Empfehlungsalgorithmus vorzunehmen. Im Hintergrund dieser Forderung stehen Bedenken, dass das System durch gezielte Inhaltsempfehlungen Nutzer gefährden könnte, besonders wenn es um psychische Gesundheit, Essstörungen oder gefährliche Verhaltensweisen geht.
Das Problem ist nicht TikTok allein: Das Geschäftsmodell von Plattformen basiert häufig darauf, Nutzer möglichst lange engagiert zu halten. Dies geschieht durch Algorithmen, die Inhalte empfehlen, die starke emotionale Reaktionen auslösen. Für manche Nutzer bedeutet das eine Vorliebe für Inhalte, die ihrer psychischen Gesundheit schaden: Perfektionismuskultur, Body-Shaming, Selbstverletzungs-Videos oder unhealthy Trends.
Die EU behauptet nicht, dass TikTok dies bewusst beabsichtigt, sondern dass das System durch seine Struktur diese Auswirkungen hat. Die Digital Services Act (DSA) verpflichtet Online-Plattformen in der EU, die Risiken ihrer Algorithmen zu bewerten und zu mindern. TikTok muss nun nachweisen, dass es diese Anforderungen erfüllt, oder umgestaltet das System.
Für IT-Dienstleister und Unternehmen, die mit Social-Media-Daten arbeiten, ist dies relevant. Die Forderungen der EU sind ein Hinweis auf eine wachsende regulatorische Kontrolle von Algorithmen. Wer Empfehlungssysteme entwickelt oder nutzt, sollte regelmässig ethische und sicherheitstechnische Audits durchführen. Dies ist besonders wichtig, wenn Plattformen Nutzer unter 18 Jahren haben. In der Schweiz und Europa wird solche algorithmische Verantwortung voraussichtlich auch in anderen Gesetzen zunehmend relevant werden.