Zwei der weltweit führenden Künstliche-Intelligenz-Forscher haben sich zu Wort gemeldet und warnen vor existenziellen Risiken, die von immer leistungsfähigeren KI-Systemen ausgehen könnten. Geoffrey Hinton von der University of Toronto und Yoshua Bengio von der Université de Montréal, beide Pioniere im Bereich Deep Learning und neuronaler Netze, haben diese Warnung zusammen mit etwa 20 weiteren namhaften Experten veröffentlicht.
Im Fokus ihrer Warnung steht das Szenario einer «Intelligenzexplosion». Dies beschreibt die theoretische Möglichkeit, dass eine KI-System schnell so intelligent wird, dass es sich selbst verbessern kann, was zu exponentieller Leistungssteigerung führt, die die Kontrolle durch Menschen übersteigen könnte. Obwohl dies spekulativ klingt, sehen diese Forscher angesichts des rasanten technologischen Fortschritts ein ernst zu nehmendes Risiko.
Die Warnung kommt zu einem Zeitpunkt, an dem KI in praktisch alle Bereiche der Gesellschaft eindringt: Wirtschaft, Militär, Wissenschaft, Medizin. Die Macher dieser Systeme, darunter Tech-Riesen wie OpenAI, Google und Meta, investieren Milliarden in die Entwicklung immer leistungsfähigerer Modelle. Diese Warnung ist damit ein Appell an die Industrie und an Regierungen, die KI-Entwicklung verantwortungsvoller zu gestalten.
Für Unternehmen und die Gesellschaft bedeutet dies, dass die Debatte um KI-Sicherheit und KI-Regulierung an Dringlichkeit zunimmt. Viele Länder arbeiten an KI-Regulierungsrahmen, wie die EU mit ihrem AI Act. Unternehmen sollten sich bewusst machen, dass KI ein Feld ist, bei dem nicht nur technische, sondern auch ethische und sicherheitstechnische Überlegungen zentral sind.