Schwimmbäder sind Orte, an denen es zu Notfällen kommen kann. Ertrinken ist eine stille Gefahr, die manchmal schwer zu erkennen ist, besonders wenn viele Menschen im Wasser sind. Das Westbad in Bremen wollte diese Risiken mit moderner Technologie mindern und installierte ein KI-System zur automatischen Erkennung von Ertrinkungsfällen.
Das System funktionierte technisch prinzipiell, stellte aber die Datenschutzverantwortlichen vor ein wichtiges Problem. Die Installation einer Überwachungskamera mit KI-Analyse ist nicht einfach eine technische Frage, sondern berührt grundlegend die Persönlichkeitsrechte von Badegästen. Vor dem Einsatz solcher Systeme ist gesetzlich eine Datenschutz-Folgenabschätzung erforderlich. Diese Abschätzung dokumentiert, welche Daten verarbeitet werden, wer Zugriff hat, wie lange sie gespeichert werden und welche Risiken für die Betroffenen entstehen.
Im Fall des Bremer Schwimmbads fehlte diese vorgelagerte rechtliche Prüfung. Deshalb musste das System wieder abgeschaltet werden. Dies ist ein wichtiges Signal für KMUs, die ebenfalls KI-Systeme einsetzen möchten: Technische Machbarkeit ersetzt nicht die rechtliche Verpflichtung. Vor der Implementierung von KI-gestützter Videoüberwachung oder ähnlichen Systemen sind eine sorgfältige Datenschutz-Folgenabschätzung und möglicherweise Behördenkonsultationen erforderlich. Dies gilt insbesondere, wenn personenbezogene Daten von Dritten verarbeitet werden.