Apple hat eine neue Massnahme eingeleitet, um mit dem Problem der automatisch generierten, minderwertigen Sicherheitsmeldungen umzugehen. Der Konzern begrenzt nun die Anzahl der Sicherheitsberichte, die ein einzelner Benutzer pro Zeitraum einreichen darf. Diese Massnahme zielt direkt auf die Praktik ab, KI-Modelle zur Massenproduktion von Sicherheitsmeldungen zu nutzen.
Das Problem ist in der IT-Sicherheitsgemeinschaft weit verbreitet. Mit der Verfügbarkeit von grossen Sprachmodellen und anderen KI-Tools können Akteure ohne echte Sicherheitsexpertise nun scheinbar legitime Vulnerability-Reports in grosser Menge produzieren. Apple muss dann den Aufwand treiben, jede einzelne zu überprüfen, auch wenn viele davon falsch positiv oder trivial sind.
Die neuen Limits sollen die Signal-zu-Rausch-Verhältnis verbessern. Ein echtes Sicherheitsforschungs-Team oder eine dedizierte Person mit legitimen Funden sollte von den neuen Grenzen nicht stark beeinträchtigt werden. Aber automatisierte KI-Masseneinsender werden deutlich gebremst.
Für Schweizer IT-Sicherheitsfachleute und die Unternehmen, die mit Apple-Produkten arbeiten, hat dies indirekte Effekte. Wenn Apple schneller echte Sicherheitslücken identifizieren und adressieren kann, weil die Menge des Rauschens sinkt, führt das zu besserer Sicherheit bei allen Apple-Geräten. Das wiederum reduziert Risiken in Unternehmensumgebungen, die iPhones, iPads oder Macs verwenden.
Gleichzeitig ist dies ein warnendes Zeichen: Das Problem der KI-generierten, nutzlosen oder falschen Sicherheitsberichte wird zunehmen, wenn nicht proaktiv Standards und Grenzen etabliert werden.