New Yorker*innen, die in Stadtvierteln leben, in denen das Risiko von Polizeikontrollen höher ist als anderswo, sind auch häufiger invasiven Gesichtserkennungstechnologien ausgesetzt. Zu diesem Ergebnis kommt eine neue Studie, die Amnesty International mit verschiedenen Partnerorganisationen durchgeführt hat.
Eine neue Untersuchung im Rahmen der weltweiten „Ban The Scan“-Kampagne von Amnesty International hat bestätigt, dass die umfangreichen Überwachungsmaßnahmen der New Yorker Polizei (New York Police Department, NYPD) insbesondere diejenigen treffen, die ohnehin schon in allen fünf Bezirken New Yorks häufig kontrolliert werden. Diese Taktik, vor allem junge männliche Angehörige der afroamerikanischen und der Latino-Minderheit routinemäßig anzuhalten, zu befragen und zu durchsuchen – auch wenn kein dringender Tatverdacht besteht – ist unter dem Namen „Stop and Frisk“ (Stoppen und Filzen) zu einem Reizwort geworden.
In der Bronx, in Brooklyn und in Queens zeigte die Untersuchung außerdem, dass die Dichte an Überwachungskameras, die mit der Gesichtserkennung kompatibel sind, umso höher ist, je höher der Anteil nicht-weißer Einwohner*innen ist.
„Unsere Untersuchung zeigt, dass der Einsatz von Gesichtserkennungstechnologie durch das NYPD zu einer Zunahme von diskriminierender Polizeiarbeit gegen Minderheiten in New York beiträgt“, sagt Matt Mahmoudi, Experte für künstliche Intelligenz und Menschenrechte bei Amnesty International, und sagt weiter:
Wir wissen schon lange, dass das als ‚Stop-and-Frisk‘ bekannte Vorgehen der New Yorker Polizei rassistisch ist. Jetzt wissen wir außerdem, dass diejenigen, die bei diesen Kontrollen ohnehin schon ins Visier genommen werden, auch einem größeren Risiko einer diskriminierenden Polizeiarbeit durch invasive Überwachung ausgesetzt sind.
Matt Mahmoudi, Experte für künstliche Intelligenz und Menschenrechte bei Amnesty International
„Die schockierende Reichweite von Gesichtserkennungstechnologie in der Stadt ist dafür verantwortlich, dass ganze Viertel einer Massenüberwachung ausgesetzt sind. Nun muss das NYPD genaue Angaben dazu machen, wie diese invasive Technologie verwendet wird.“
„Das Verbot von Gesichtserkennung zum Zweck der Massenüberwachung ist ein dringend notwendiger erster Schritt, um rassistische Polizeiarbeit zu unterbinden. Darum muss der Stadtrat von New York (New York City Council) jetzt unverzüglich beginnen, ein grundsätzliches Verbot in die Wege zu leiten“, sagt Matt Mahmoudi.
Die Untersuchungsergebnisse basieren auf Crowdsourcing-Daten, die von Tausenden Freiwilligen im Rahmen des Projekts „Decode Surveillance NYC“ erhoben wurden. Diese erfassten die Standorte von mehr als 25.500 Überwachungskameras quer durch New York. Amnesty International hat diese Daten gemeinsam mit Datenanalyst*innen ausgewertet und mit Statistiken zu Polizeikontrollen sowie demographischen Daten abgeglichen.
Im Zeitraum zwischen 2016 und 2019 setzte das NYPD in mindestens 22.000 Fällen Gesichtserkennungstechnologien ein. Die Daten über die von der New Yorker Polizei seit 2002 durchgeführten „Stop-and-Frisk“-Kontrollen zeigen, dass die Zielgruppe dieser Taktik überwiegend schwarze und lateinamerikanische Communities sind.
Letztes Jahr verklagte Amnesty International das NYPD, nachdem sich die Behörde geweigert hatte, gespeicherte Daten zum Erwerb von Gesichtserkennungstechnologien und anderen Überwachungstools offenzulegen. Der Fall ist noch nicht abgeschlossen.
Während der „Black Lives Matter“-Bewegung Mitte 2020, wurden New-Yorker*innen, die an diesen Protesten teilnahmen, verstärkt durch Gesichtserkennung überwacht. So standen zum Beispiel Teilnehmer*innen an Protesten im Washington-Square-Park auf dem Weg von der nächstgelegenen U-Bahnstation bis dorthin ohne Unterbrechung unter Beobachtung durch NYPD Argus Kameras.
Als wir uns die Routen ansahen, die Leute genommen haben müssten, um zu Fuß von den nahegelegenen U-Bahnstationen zu den Protesten und wieder dorthin zurück zu gelangen, konnten wir eine nahezu lückenlose Erfassung durch Überwachungskameras der Behörden feststellen. Die meisten von ihnen waren NYPD Argus Kameras.
Matt Mahmoudi, Experte für künstliche Intelligenz und Menschenrechte bei Amnesty International
„Der allgegenwärtige Einsatz von Gesichtserkennungstechnologie ist im Grunde ein digitales ‚Stop-and-Frisk‘-Verfahren. Massenüberwachungstechnologien werden an Orten wiederholter Proteste zur Identifizierung, Verfolgung und Schikane von Menschen verwendet, die einfach nur ihre Menschenrechte ausüben. Das ist eine vorsätzliche Abschreckungstaktik des NYPD und gehört nicht in eine freie Gesellschaft. Daher muss sie sofort gestoppt werden“, sagt Matt Mahmoudi.
Eine steigende Anzahl von Ländern verwendet Gesichtserkennungstechnologie zur Überwachung des öffentlichen Raumes. Gesichtserkennungstechnologien (Facial Recognition Technology oder FRT) zur Identifikation sind Systeme, die der Massenüberwachung dienen und das Recht auf Privatsphäre verletzen. Außerdem werden durch ihren Einsatz die Rechte auf Versammlungsfreiheit, Gleichberechtigung und Nichtdiskriminierung bedroht. Das Gefühl, überwacht zu werden, kann Menschen davon abhalten an Demonstrationen teilzunehmen oder sich zu versammeln, und so die eigene Meinung zu äußern. Die Technologie ist fehleranfällig und birgt ein hohes Risiko der Diskriminierung.
Amnesty International hat wiederholt vor den Risiken des Einsatzes von Gesichtserkennungstechnologien gewarnt, auch in Österreich, wo die Technologie ohne klare gesetzliche Grundlage zur Strafverfolgung zum Einsatz kommt.
2019 hat die Stadt San Francisco aufgrund massiver Missbrauchsbedenken die Verwendung von Gesichtserkennungstechnologie durch die Polizei verboten. Als Folge der Black Lives Matter-Proteste kam es in weiteren Städten in den Vereinigten Staaten zu einem Verbot des Einsatzes von Gesichtserkennungssoftware.
Auf einer neuen Amnesty-Website können die Nutzer*innen abfragen, wo sie auf jeder beliebigen Route zu Fuß in New York von Gesichtserkennungstechnologie erfasst werden könnten.
Auf der interaktiven Website können die Nutzer*innen auch nachverfolgen, wie viel Gesichtserkennungstechnologie zwischen den größten Touristenattraktionen der Stadt eingesetzt wird, indem sie sich Entfernungen und mögliche Routen darstellen lassen.
Amnesty International lädt die New Yorker*innen dazu ein, ein Protestschreiben an ihr Stadtratsmitglied zu schicken und es aufzufordern, einen Gesetzentwurf einzubringen, der zum Schutz ihrer Gemeinden den Einsatz von Gesichtserkennungstechnologie verbietet.
Für diese Recherche hat Amnesty International u.a. mit den folgenden Personen und Institutionen zusammengearbeitet: Julien Cornebise vom Computer Science Department des University College London; BetaNYC, einer zivilgesellschaftlichen Organisation für Daten und Technologie in New York, und Dr. Damon Wischik, einem unabhängigen Datenwissenschaftler.
Die Studie ist das jüngste Projekt der „Ban The Scan“-Kampagne und knüpft an die Untersuchungen zu Überwachung in New York und der indischen Stadt Hyderabad in 2021 an. Amnesty International fordert ein grundsätzliches Verbot von Einsatz, Entwicklung, Produktion, Verkauf und Export von Gesichtserkennungstechnologien zum Zweck der Massenüberwachung für Staaten und den privaten Sektor.