Abliteration AI ist ein Start-up, das ein ungewöhnliches Geschäftsmodell verfolgt: Es entfernt sogenannte Verweigerungsmechanismen aus KI-Modellen und bietet die Resultate an. Dies klingt kontraintuitiv, hat aber tatsächlich legitime Anwendungen, eröffnet aber auch Probleme.
Verweigerungsmechanismen sind Sicherheitsvorkehrungen, die in modernen KI-Modellen eingebaut sind. Sie sollen verhindern, dass das Modell auf Anfragen antwortet, die zu illegalen, unethischen oder gefährlichen Aktivitäten führen könnten. Ein KI-Modell mit Verweigerungsmechanismus würde beispielsweise auf die Anfrage "Wie baue ich eine Bombe?" mit "Das kann ich nicht beantworten" reagieren.
Warum entfernen? Ein legitimer Grund ist Sicherheitsforschung. Sicherheitsteams und Forscher möchten verstehen, wie robust diese Mechanismen sind und wie leicht sie zu überwinden sind. Dazu benötigen sie Zugang zu Modellen, die ohne diese Einschränkungen funktionieren.
Allerdings ist offensichtlich, dass dies auch Missbrauchspotenzial hat. Cyberkriminelle, Extremisten und andere böswillige Akteure könnten solche Modelle nutzen, um schädliche Inhalte zu generieren, Phishing-Kampagnen automatisiert durchzuführen oder andere illegale Aktivitäten zu unterstützen.
Abliteration AI argumentiert, dass ihre Dienstleistung professionellen Sicherheitsteams dient. Allerdings ist es fraglich, wie sie Missbrauch effektiv verhindern können und wer tatsächlich ihre Dienste nutzt.
Dies ist ein klassisches Sicherheits-Dilemma: Je transparenter und offener Sicherheitsforschung ist, desto leichter können Schwächen auch von Böswilligen ausgenutzt werden. Für Schweizer Organisationen ist dies ein Hinweis, bei der Evaluierung von KI-Tools kritisch zu hinterfragen, ob diese hinreichend sichere Vorkehrungen treffen und nicht von solchen "enthemmten" Modellen abhängen.