Künstliche Intelligenz wird nicht nur zur Automatisierung und Analyse eingesetzt, sondern auch zur Identifikation von Sicherheitsrisiken und potenziellen Bedrohungen. Das System Claude von Anthropic ist mit verschiedenen Sicherheitsfiltern ausgestattet, um schädliche Inhalte zu erkennen und angemessen zu reagieren.
Ein aktueller Fall aus Florida zeigt die praktischen Auswirkungen dieser Systeme: Eine Frau nutzte Claude in einem Tagebuch und äusserte darin konkrete Drohungen mit Waffengewalt gegen den örtlichen Sheriff. Die Sicherheitsfilter des Systems erkannten diese Bedrohungen als ernsthafte Gefahr. Mitarbeiter von Anthropic schritten ein und übergaben die relevanten Informationen der Polizei.
Dies führte schliesslich zu einem Polizeieinsatz und der Verhaftung der Frau. Der Fall illustriert, wie moderne KI-Systeme nicht nur Funktionen bereitstellen, sondern auch eine Verantwortung tragen, bei der Identifizierung echter Bedrohungen zu helfen.
Der Vorfall wirft allerdings auch wichtige Fragen auf: Wann und unter welchen Umständen sollten KI-Systeme Behörden informieren? Wie wird die Privatsphäre von Nutzern geschützt? Diese Fragen sind für Unternehmen, die KI-Systeme entwickeln und betreiben, essentiell. Für KMU-Betriebe, die KI-Tools einsetzen, ist es wichtig zu verstehen, welche Daten solche Systeme erfassen, speichern und potenziell an Dritte weitergeben. Dies erfordert sowohl technisches Verständnis als auch Aufmerksamkeit für ethische und datenschutzrechtliche Fragen.