Ein Versuch, der auf Befremden stösst: Der Aktivist Cody Wilson hat ein Waffendesign vorgestellt, das eine speziell trainierte künstliche Intelligenz eigenständig entwickelt hat. Dies unterstreicht ein zentrales Dilemma der KI-Technologie: Der Missbrauchspotenzial ist erheblich, wenn Systeme unkontrolliert Anleitungen oder Designs für schädliche Zwecke generieren.
Wilson ist keine unbekannte Figur in dieser Debatte. Er erlangte 2012 internationale Aufmerksamkeit, als er die erste dreidimensional gedruckte, funktionsfähige Schusswaffe vorstellte. Seine Arbeiten stehen an der Schnittstelle von Technologie, Libertarianismus und Provokation. Die KI-gesteuerte Waffe ist sein neuester Versuch, die Grenzen zwischen technischer Machbarkeit und ethischen Grenzen zu verschieben.
Das Problem ist vielschichtig: Einerseits zeigt Wilsons Experiment, dass KI-Systeme ohne ausreichende Safeguards tatsächlich dazu in der Lage sind, schädliche Inhalte zu generieren. Andererseits eröffnet es eine Debatte über die Verantwortung von KI-Entwicklern. Sollten Systeme mit strikten Filtern versehen werden, um bestimmte Generierungen zu verhindern? Und wenn ja, wer entscheidet, was generiert werden darf und was nicht?
Für IT-Sicherheit und Regulierung ist dies ein warnendes Beispiel. Unternehmen, die KI-Systeme entwickeln oder nutzen, müssen robust Safety-Mechanismen einbauen. Für Schweizer KMU bedeutet dies: Bei der Auswahl von KI-Tools sollte überprüft werden, ob der Anbieter entsprechende Sicherheitsmassnahmen implementiert hat. Regulatorische Behörden sollten sich dieser Problematik bewusst sein und Regelungen schaffen, die verantwortungsvolles KI-Design fördern.