Ein Bremer Anwalt wurde Opfer eines KI-bedingten Fehlers bei der Google-Suche. Die KI-gestützte Suchantwort verband Informationen aus einem Fernsehbericht falsch miteinander und schrieb dem Anwalt Vorwürfe schwerer Straftaten zu, die tatsächlich auf eine andere Person zutrafen. Dieser Vorfall illustriert ein fundamentales Problem bei KI-generierten Inhalten: die Verwechslung von Kontext und die Unfähigkeit, komplexe Bezüge vollständig zu verstehen.
Googles KI-Suche nutzt Sprachmodelle, die Muster in Texten erkennen und zusammenfassen, aber nicht immer die logischen Zusammenhänge korrekt erfassen. In diesem Fall nahm die KI einen Bericht über Straftaten und ordnete ihn irrtümlich dem Anwalt statt der tatsächlich verdächtigten Person zu. Der Schaden für den Anwalt war erheblich: sein Ruf wurde beschädigt, bevor Google den Fehler behob.
Für Schweizer Unternehmen ist dies ein Warnzeichen. KI-gestützte Systeme werden zunehmend für Kundeninteraktion, interne Datensuche und Entscheidungsfindung genutzt. Fehler solch gravierender Art können massive geschäftliche und rechtliche Konsequenzen haben. Organisationen sollten daher bei der Nutzung von KI-Systemen folgende Massnahmen ergreifen: Erstens sollten kritische Informationen vor Publikation durch Menschen verifiziert werden. Zweitens empfiehlt sich eine rechtliche Überprüfung, wie KI-Fehler abgefedert werden können. Drittens sollten Audit-Trails vorhanden sein, um nachzuvollziehen, wie KI zu bestimmten Schlussfolgerungen gelangt ist. Diese Vorfälle werden zunehmen, daher lohnt sich Vorsicht bei der KI-Adoption.