Zukunft der Kriminalitätsbekämpfung? KI und persönliche Daten zur Vorhersage von Verbrechen
Die britische Regierung erforscht ein Programm, das vorhersagen soll, ob eine Person potenziell zum Mörder wird. Für die Studie werden persönliche Daten von hunderttausenden Menschen zusammengeführt, darunter fallen auch Informationen zu erlebter häuslicher Gewalt und psychischer Erkrankungen.
„Mordvorhersagetool“ und das Training
Aus geheimen Dokumenten geht hervor, dass die britische Regierung an einer KI-gestützten Methode – bisher zu Forschungszwecken – arbeitet, um potenzielle Mörder zu identifizieren, bevor sie eine Tat begehen. Dafür wurden Daten von über 100.000 Menschen ohne deren Wissen oder Einwilligung verwendet.
In das sogenannte „Mordvorhersagetool“ flossen unter anderem persönliche Daten darüber ein, in welchem Alter eine Person erstmals häusliche Gewalt erfahren hat. Darüber hinaus wurden detaillierte Informationen zur psychischen Verfassung festgehalten, darunter Angaben zu Suchtverhalten und Suizidversuchen mit Zeitangaben.
Des Weiteren wurden umfangreiche personenbezogene Daten einbezogen, darunter Name, Anschrift, Alter, Geburtsdatum, ethnische Herkunft und weitere sensible Informationen. Alle diese Informationen sollten die KI trainieren, um die Vorhersagen präziser und verlässlicher zu machen. Das Ziel ist der reale Einsatz dieser Technologie.
Ähnliche Methode bereits in der Praxis
Der Unmut unter den Bürgerinnen und Bürgern in Großbritannien ist enorm, aber nicht nur dort, sondern Menschengruppen weltweit sind entsetzt über das geplante Vorgehen.
Dieses Tool stellt jedoch nur eine Weiterentwicklung eines bereits eingesetzten Systems dar. Letzteres unterstützt britische Richter dabei, die Rückfallwahrscheinlichkeit eines Täters einzuschätzen, um darauf basierend die angemessene Haftdauer festzulegen.
Datenschutz im Tausch für Wahrscheinlichkeiten?
Diese dystopisch anmutende Methode der Kriminalitätsbekämpfung wirft grundlegende Fragen auf. Künftig wird zu klären sein, ob Regierungen berechtigt sind, die sensibelsten persönlichen Daten zu verarbeiten, um eine KI zu unterstützen, die Wahrscheinlichkeiten für potenzielle Mörder berechnet. Und inwiefern so ein Tool zur strukturellen Diskriminierung betragen kann. Bisher wird das Mordvorhersagetool „nur“ zu Forschungszwecken eingesetzt, geplant ist aber auch eine praktische Umsetzung.
Alec Böhnke,
Jurist mit Schwerpunkt Datenschutzrecht. Er unterstützt unsere Consultants durch wissenschaftliche Arbeit zu aktuellen rechtlichen Fragestellungen.
Auf unserem Blog schreibt er über Themen rund um Datenschutz, die KI-Verordnung und Informationssicherheit.
Weitere Artikel
- Datenschutz-Panne bei Bewerbung: EuGH setzt den Maßstab neu
- Gegen Ende-zu-Ende-Verschlüsselung: Manche EU-Länder wollen Hintertüren
- Kann PIMS den Cookie-Wahnsinn stoppen?
- Daten gelöscht, aber Auskunftsanspruch besteht: Fall Bewerbung
- E-Mail-Konto ist gehackt, was tun?
- Sammelklage gegen Human Resource KI-Anbieter: Wird Diskriminierung bestraft?
Verwandte Artikel
- Palantir: 5 Fragen und Antworten zur umstrittenen US-Analysesoftware
- Sammelklage gegen Human Resource KI-Anbieter: Wird Diskriminierung bestraft?
- Von der Theorie zur Praxis: Beispiele für die Umsetzung des EU AI Act
- KI im Bildungsbereich: Was der AI Act jetzt regelt
- Arbeitgeber müssen Beschäftigte über Nutzung hochriskanter KI-Systeme gem. Art. 26 KI-VO informieren
- Wer muss eine Datenschutz-Folgenabschätzung laut Art. 26. Abs. 9 KI-VO durchführen?