„Seitdem wir als Opfer des, wie ich es nenne, 'Sozialleistungsverbrechens' anerkannt wurden, werden wir selbst vier Jahre später immer noch wie eine Nummer behandelt.”, so Batya Brown.
„Der niederländische Kinderbetreuungsgeld-Skandal muss den EU-Gesetzgeber*innen als Warnung dienen. Der Einsatz von KI-Systemen zur Einschätzung grundlegender Leistungen kann zu verheerenden Folgen für marginalisierte Gemeinschaften führen. Soziale Scoring-, Profiling- und Risikobewertungssysteme müssen im KI-Gesetz verboten werden, unabhängig davon, ob sie zur Überwachung von Sozialhilfeempfänger*innen, zur ‚Vorhersage‘ der Wahrscheinlichkeit, ein Verbrechen zu begehen, oder zur Entscheidung über Asylanträge eingesetzt werden”, sagte Mher Hakobyan.
Verbot der Verwendung und des Exports von intrusiven Überwachungssystemen
Unter dem Deckmantel der „nationalen Sicherheit“ werden Gesichtserkennungssysteme zu einem bevorzugten Instrument für Regierungen, die versuchen, Einzelpersonen übermäßig zu überwachen. Die Strafverfolgungsbehörden setzen diese Systeme im öffentlichen Raum ein, um Personen zu identifizieren, die möglicherweise eine Straftat begangen haben, obwohl das Risiko einer unrechtmäßigen Verhaftung besteht.
Amnesty International Österreich setzt sich seit vielen Jahren für ein vollständiges Verbot der Gesichtserkennung im öffentlichen Raum ein.
„Der*Die Gesetzgeber*in muss nicht nur für ein vollständiges Verbot der Gesichtserkennung in der EU sorgen, sondern auch dafür, dass diese und andere hochproblematische Technologien, die in der EU verboten sind, nicht in der EU hergestellt werden, nur um in Länder exportiert zu werden, in denen sie für schwere Menschenrechtsverletzungen eingesetzt werden. Die EU und die Mitgliedstaaten sind nach internationalem Recht verpflichtet, dafür zu sorgen, dass Unternehmen in ihrem Hoheitsgebiet nicht von Menschenrechtsverletzungen profitieren, indem sie Technologien exportieren, die zur Massenüberwachung und rassistischen Polizeiarbeit eingesetzt werden", so Mher Hakobyan.
KI-Technologie erleichtert Diskriminierung von Migrant*innen
Der*Die Gesetzgeber*in muss rassistische Profiling- und Risikobewertungssysteme verbieten, die Migrant*innen und Asylwerber*innen als „Bedrohung“ einstufen.Außerdem sollten auch Prognosetechnologien verboten werden, die eingesetzt werden, um Grenzbewegungen vorherzusagen und Menschen das Recht auf Stellung eines Asylantrags zu verweigern.