Ein besorgniserregendes Phänomen zeigt sich im britischen Gesundheitssystem: Künstliche Intelligenz-gestützte Dokumentationsassistenten, die Ärzte beim Schreiben von Patientenakten unterstützen sollen, verursachen fehlerhafte oder verwirrte Einträge. In mehreren Fällen wurden Medikamentennamen verwechselt oder falsche Diagnosen dokumentiert. Besonders problematisch: Diese Fehler wurden teilweise erst von den Patienten selbst entdeckt, die ihre Krankenakten einsehen konnten.
Das Prinzip dieser Systeme ist grundsätzlich sinnvoll: KI-basierte Schreibassistenten transkribieren die Aussagen von Ärzten in strukturierte Elektronische Patientenakten und sollen damit Zeit sparen und die Dokumentation qualitativ verbessern. In der Praxis zeigen sich aber erhebliche Probleme. Die KI verwechselt ähnlich klingende Medikamentennamen, interpretiert medizinische Fachbegriffe fehlerhaft oder fasst Symptome in der Dokumentation falsch zusammen.
Dies ist nicht nur ein britisches Problem. Auch in Deutschland setzen einige Praxen und Kliniken bereits ähnliche KI-Dokumentationssysteme ein. Die bisherige Hoffnung, dass solche Systeme nur Routinearbeiten übernehmen, wird durch diese Berichte in Frage gestellt. Ärzte müssen die KI-generierten Einträge deutlich sorgfältiger prüfen, als oft angenommen.
Für die Patientensicherheit sind die Implikationen erheblich. Falsch dokumentierte Medikamente oder Diagnosen können zu fehlerhaften Behandlungsentscheidungen führen. Ein Patient, der aufgrund einer falsch dokumentierten Allergie nicht das richtige Medikament erhält, oder umgekehrt ein gefährliches Medikament bekommt, erleidet potenzielle Schäden.
Dies unterstreicht die Wichtigkeit von strenger Qualitätskontrolle bei KI-Systemen im medizinischen Kontext. Ärzte sollten sich bewusst machen, dass KI-Assistenten als Hilfsmittel dienen, aber niemals die ärztliche Verantwortung und Überprüfung ersetzen können. Für Patienten empfiehlt sich, ihre Akten regelmässig durchzusehen und Unstimmigkeiten mit ihrem Arzt zu klären.