Das KI-Sicherheitsunternehmen Anthropic präsentiert FlashProve, einen neuen Ansatz zur Identitätsprüfung von Sprachmodellen. Das Problem, das FlashProve löst, klingt zunächst abstrakt, ist aber für Sicherheit wichtig: Wie kann ein Anwender verifizieren, dass das KI-Modell, mit dem er spricht, wirklich das Modell ist, das er erwartet?
Bislang gibt es keine zuverlässige Methode, um die Echtheit eines KI-Modells zu prüfen. Ein Angreifer könnte ein gefälschtes oder manipuliertes Modell bereitstellen, das sich als echtes ausgeben. FlashProve funktioniert durch kryptografische Techniken, die es ermöglichen, die Integrität und Authentizität eines Modells nachzuweisen, ohne dabei die geheimen Gewichte und Parameter des Modells offenlegen zu müssen.
Das ist technisch cleverer als es zunächst klingt. Normalerweise müsste man das komplette Modell überprüfen, um sicherzustellen, dass es nicht verändert wurde. Das ist unpraktisch und würde Betriebsgeheimnisse preisgeben. FlashProve erlaubt stattdessen einen mathematischen Authentizitätsbeweis ohne Offenlegung.
Für KMU und Unternehmen, die KI-Systeme nutzen, hat dies künftig praktische Relevanz. Wenn Organisationen KI-Modelle als externe API nutzen oder bei Cloud-Anbietern einbinden, könnten sie mittels FlashProve überprüfen, dass sie tatsächlich mit dem erwarteten Modell kommunizieren und nicht mit einem manipulierten Ersatz. Das reduziert Risiken bei der KI-Integration in sensible Geschäftsprozesse.