Die Vereinten Nationen haben ein unabhängiges wissenschaftliches Panel auf KI eingerichtet, das die Entwicklungen in diesem Bereich kritisch analysiert. Der vorläufige Bericht dieses Panels kommt zu besorgniserregenden Schlussfolgerungen: Die Gefahren von künstlicher Intelligenz sind real und wachsen schneller als die Massnahmen zu ihrer Kontrolle und Regulierung.

Das Panel warnt vor mehreren Kategorien von Risiken. Erstens gibt es Sicherheitsrisiken: Immer leistungsfähigere KI-Systeme könnten missbraucht werden für Cyberangriffe, Dezinformation, oder autonome Waffen. Zweitens gibt es Arbeitsmarktrisiken: Breite Automatisierung durch KI könnte zu massiven Verschiebungen in der Arbeitswelt führen, ohne dass Gesellschaften darauf vorbereitet sind. Drittens gibt es Fragen der Fairness und Gerechtigkeit: KI-Systeme können Vorurteile verstärken und bestimmte Gruppen diskriminieren. Viertens gibt es Kontrollrisiken: Je autonomer KI-Systeme werden, desto schwächer ist die menschliche Kontrolle und Nachvollziehbarkeit.

Das Panel betont insbesondere, dass die rasante Entwicklung von KI nicht synchron mit Regulierungsmassnahmen voranschreitet. Staaten und internationale Organisationen sind nicht schnell genug, um Governance-Strukturen zu schaffen, die mit der technologischen Entwicklung mithalten. Dies führt zu einer Situation, in der Risiken sich aufbauen, während die Fähigkeiten der Gesellschaft, diese zu managen, begrenzt bleiben.

Das Panel fordert stärkere internationale Zusammenarbeit und Regulierung. Allerdings ist das einfacher gesagt als getan: KI-Entwicklung findet dezentralisiert statt, mit Anbietern in vielen Ländern, mit unterschiedlichen Interessen und regulatorischen Rahmen. Ein einheitlicher internationaler KI-Regulierungsrahmen ähnlich dem Atomkraft-Regime anzustreben ist theoretisch sinnvoll, praktisch aber sehr schwierig.

Für KMU und ihre IT-Dienstleister bedeutet dies, dass KI-Projekte nicht nur aus Chancen-Perspektive betrachtet werden sollten, sondern auch Risiken und Verantwortung bedacht werden müssen. Unternehmen sollten sich fragen: Wie können wir KI-Systeme nutzen, ohne Diskriminierung oder unfaire Praktiken zu verstärken? Wie dokumentieren wir KI-Entscheidungen? Wie trainieren wir unsere Teams im kritischen Einsatz von KI? Das UN-Panel-Warnung sollte nicht zu Lähmung führen, sondern zu durchdachtem, verantwortungsvollem Handeln.