Deutschland hat mit dem AI Safety and Security Institut (AISI) eine neue Institution gegründet, die sich speziell mit den Sicherheitsaspekten künstlicher Intelligenz befasst. Die Einrichtung in Berlin soll als nationale Behörde die Chancen und Risiken von KI-Systemen analysieren und die digitale Resilience im KI-Bereich stärken.
Das neue Institut wird in Zusammenarbeit mit etablierten Akteuren der deutschen Cybersicherheit arbeiten. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und die Bundesnetzagentur sind an diesem Projekt beteiligt. Diese Kooperation ergibt Sinn, denn KI-Sicherheit ist eng mit Informationssicherheit und Netzwerk-Regulierung verflochten.
Die Arbeit des AISI wird in mehreren Bereichen relevant sein. Zum einen geht es um die Bewertung neuer und bestehender KI-Modelle auf potenzielle Gefahren hin. Das reicht von technischen Anfälligkeiten bis zu Missbrauchspotentialen. Zum anderen werden Standards und Best Practices entwickelt, wie KI-Systeme sicherer gestaltet werden können. Dies unterstützt auch die Umsetzung der EU-KI-Verordnung auf nationaler Ebene.
Für Unternehmen und Organisationen, die KI einsetzen oder einsetzen möchten, ist die Existenz eines solchen Instituts relevant. Es wird Orientierung geben, welche Standards und Verfahren gelten und wie KI-Projekte sicherheitstechnisch korrekt umgesetzt werden. Besonders für KMU, die KI-Dienste nutzen, werde es wichtig sein, Klarheit über Risiken und verantwortungsvolle Nutzung zu haben. Die Existenz staatlicher Institutionen, die sich mit dieser Materie intensiv befassen, trägt zur Vertrauensbildung bei.