Geoffrey Hinton, ein Pionier der künstlichen Intelligenz und Nobelpreisträger, hat eine provokative und gleichzeitig nachdenklich stimmende Idee artikuliert: KI-Modelle könnten einem Genehmigungsprozess unterzogen werden, der dem von Medikamenten ähnelt. Dies hätte tiefgreifende Auswirkungen auf die KI-Industrie.
Die Logik dahinter ist überzeugend. Medikamente durchlaufen strenge Tests und Regulierungsprozesse, weil sie das Potenzial haben, Menschen zu schaden. Ein schlechtes Medikament kann Tausende beeinträchtigen. Hinton argumentiert, dass KI-Systeme, insbesondere grosse, leistungsstarke Sprachmodelle, ähnliches Potenzial haben: Sie können Fehlinformationen verbreiten, manipuliert werden, oder systemische Fehler in der Gesellschaft verstärken.
Ein solcher regulatorischer Rahmen für KI hätte mehrere Dimensionen. KI-Modelle müssten vor ihrer Veröffentlichung umfangreichen Tests unterzogen werden: Bias-Tests, Sicherheitstests, Tests auf robustheit gegen Missbrauch. Entwickler müssen dokumentieren, worauf ihre Modelle trainiert wurden, und wie sie getestet wurden. Ein Zulassungsprozess würde Zeit und Kosten erhöhen, aber möglicherweise auch schlimmere Schäden verhindern.
Hintons Vorschlag ist keine unmittelbare politische Realität, aber er reflektiert einen wichtigen Trend: Die KI-Branche wird zunehmend reguliert. Die EU entwickelt den «AI Act», andere Länder folgen. Für KMU, die KI-Lösungen entwickeln oder einsetzen, ist dies wichtig zu verstehen: Die Tage unbeschränkter, unreflektierter KI-Nutzung neigen sich dem Ende zu. Zukünftig wird es wahrscheinlich Compliance-Anforderungen geben, möglicherweise Zertifizierungen, Dokumentation von Trainingsdaten und Bias-Tests. Unternehmen sollten sich bereits jetzt mit ethischen KI-Praktiken auseinandersetzen und ihre KI-Systeme dokumentieren und testen, nicht nur wegen potenzieller Regulierung, sondern auch weil verantwortungsvolle KI einfach bessere KI ist.