Die Inspektoren stellen fest, dass einige Beamte auf potenzielle Übereinstimmungen aus nachträglichen Durchsuchungen reagierten, ohne ausreichend Kontrollen durchzuführen
Laut einem offiziellen Bericht riskieren Polizisten die Festnahme unschuldiger Menschen, insbesondere Angehöriger ethnischer Minderheiten, wenn sie ungenaue Gesichtserkennungsdaten als Beweismittel verwenden.
Obwohl die Technologie zur Kriminalitätsbekämpfung beitragen kann, weist der Bericht darauf hin, dass sie mit Fehlern und Vorurteilen behaftet ist und den Betreibern nicht immer klar ist, dass sie weitere Nachforschungen anstellen müssen, um die Daten zu überprüfen.
Der am Mittwoch veröffentlichte Bericht der Polizeiinspektion seiner Majestät befasst sich nur mit der retrospektiven Gesichtserkennung. Die Technologie gilt als weniger kontrovers und weniger schwierig umzusetzen als die Live-Gesichtserkennung, die in Echtzeit zur Suche nach Verdächtigen eingesetzt wird.
„Einige Ermittler wussten nicht, dass es sich bei den RFR-Ergebnissen eher um Geheimdienstinformationen als um Beweise handelte, und erforderten weitere Untersuchungen, bevor die Beamten Durchsetzungsmaßnahmen ergriffen“, heißt es in dem Bericht.
„Dadurch besteht die Gefahr, dass Personen fälschlicherweise identifiziert oder verhaftet werden, was das Vertrauen der Öffentlichkeit in die Technologie untergraben könnte.
„Wir haben festgestellt, dass einige Ermittler nicht immer genügend bestätigende Untersuchungen durchgeführt haben, bevor sie bei potenziellen Übereinstimmungen gehandelt haben. In einer kleinen Anzahl von Fällen haben sich die Beamten zu stark auf RFR-Ergebnisse verlassen, was zu unangemessenen Ermittlungsmaßnahmen geführt hat.“
Dem Bericht zufolge gebe es immer noch Probleme mit der Voreingenommenheit des Algorithmus, einschließlich der höheren Wahrscheinlichkeit, dass Menschen, die ethnischen Minderheiten angehören, fälschlicherweise als Verdächtige gekennzeichnet würden.
Darin hieß es: „Es muss mehr getan werden, um das Risiko einer unrechtmäßigen Verhaftung zu verringern … Prüfer identifizierten auch Fälle, in denen Benutzer minderwertige oder ungeeignete Untersuchungsbilder hochgeladen haben, darunter unscharfe Bilder und Bilder mit mehreren Gesichtern. Diese Faktoren verringerten die Fähigkeit des Systems, zuverlässige Übereinstimmungen zurückzugeben.“
Die Inspektoren stellten außerdem fest, dass die Gefahr besteht, dass das Vertrauen der Öffentlichkeit untergraben wird, da tatsächlich Bilder aus dem Sorgerecht aufbewahrt werden, die hätten gelöscht werden sollen.
In dem Bericht heißt es: „Inspektoren stellten fest, dass die Gesetzgebung nicht mit den Änderungen in der Gesichtserkennungstechnologie Schritt gehalten hat und es keinen umfassenden gesetzlichen Rahmen für den Einsatz dieser Technologie gibt. Dies macht es für die Einsatzkräfte schwieriger, die Rechtsgrundlage für den Einsatz von RFR zu verstehen und welche Sicherheitsmaßnahmen zum Schutz der Öffentlichkeit erforderlich sind.“
Kathryn Stone, Inspektorin der Polizei seiner Majestät, sagte, die weitere öffentliche Unterstützung hänge vom Nachweis ab, dass die Technologie ordnungsgemäß eingesetzt werde: „Polizeikräfte müssen nachweisen können, dass angemessene Schutzmaßnahmen vorhanden sind, Risiken im Zusammenhang mit Voreingenommenheit und Datenspeicherung effektiv gehandhabt werden und Entscheidungen weiterhin dem menschlichen Ermessen unterliegen. Ein klarerer gesetzlicher Rahmen, strengere nationale Standards und verbesserte Governance- und Aufsichtsregelungen sind für die Wahrung des Vertrauens der Öffentlichkeit von entscheidender Bedeutung.“
Die Gesichtserkennung wird von Polizeichefs als nächster großer Fortschritt in der Verbrechensbekämpfung und von Skeptikern als nächste große Bedrohung der bürgerlichen Freiheiten angesehen.
Jasleen Chaggar von Big Brother Watch sagte: „Die Enthüllungen, dass Beamte die Gesichtserkennung als echten Beweis und nicht als Wahrscheinlichkeitsbewertung behandeln, sind alarmierend.“
„Dieser Ansatz erhöht das Risiko erheblich, dass noch mehr unschuldige Menschen von Beamten an ihre Tür klopfen, um sie wegen Verbrechen zu verhaften, die in Städten begangen wurden, die sie noch nie besucht haben, wie wir zuvor gesehen haben.“
„Schlimmer noch: Die Polizei protokolliert nicht einmal den Einsatz der retrospektiven Gesichtserkennung, was bedeutet, dass Menschen bei strafrechtlichen Ermittlungen zu Unrecht zu Verdächtigen werden könnten, ohne überhaupt zu wissen, warum sie beschuldigt wurden.
„Der Polizei darf nicht gestattet werden, den Algorithmus weiterhin mit so wenigen Sicherheitsvorkehrungen und in voreingenommenen Einstellungen zu verwenden, die eher dazu führen, dass Frauen, Asiaten und Schwarze falsch identifiziert werden und anhand von Millionen unrechtmäßig aufbewahrter Bilder aus dem Sorgerecht gesucht wird.“
Ben Russell, Leiter der Gesichtserkennung beim National Police Chiefs‘ Council, sagte: „Die Polizei setzt sich weiterhin für den ethischen, verhältnismäßigen und verantwortungsvollen Einsatz der retrospektiven Gesichtserkennung ein, um Straftaten aufzuklären, Straftäter vor Gericht zu bringen und die Sicherheit von Gemeinschaften zu gewährleisten, und wir freuen uns, dass HMICFRS die spannenden Möglichkeiten dieser Technologie erkannt hat.“
Prof. Pete Fussey von der University of Southampton, früher Polizeiberater für Gesichtserkennung, sagte: „Eine sinnvolle menschliche Überprüfung von KI-Systemen ist gesetzlich vorgeschrieben, doch der Bericht nennt Beispiele dafür, wie Ermittler die Vorschläge des Computers ohne weitere Überprüfungen für bare Münze nehmen.“
