Amnesty fordert Verbot von Gesichtserkennungstechnologien zur Massenüberwachung

Diskriminierung Gesichtserkennungstechnologien

Übersetzung: AK Digital Hamburg, Juni 2020 – Original: https://www.amnesty.org/en/latest/research/2020/06/amnesty-international-calls-for-ban-on-the-use-of-facial-recognition-technology-for-mass-surveillance/

 

  • Im Zusammenhang mit diskriminierender Polizeiarbeit und der Erstellung rassistischer Profile von Schwarzen könnte der Einsatz von Gesichtserkennungstechnologie/ Facial Recognition Technology (FRT) Menschenrechtsverletzungen durch die Polizei verschärfen und gleichzeitig das Recht auf friedlichen Protest und das Recht auf Privatsphäre untergraben.
  • Die Durchsetzung von Gesetzen verletzt täglich Menschenrechte auf der Straße. Wir brauchen die Polizei, damit sie ihren Pflichten nachkommt, und sicherstellt, dass gegen die Ermordung von Menschen durch die Polizei protestiert werden kann. Und um zu gewährleisten, dass Journalisten darüber berichten können. Die Strafverfolgungsbehörden haben die Verantwortung, das Recht auf friedlichen Protest zu gewährleisten – nicht es zu untergraben.
  • Amnesty ist stolz darauf, mit Organisationen wie der Algorithmic Justice League, der ACLU, der Electronic Frontier Foundation, und anderen zusammenzuarbeiten, die auf die Gefahren von Gesichtserkennungstechnologien hingewiesen haben. Amnesty fordert ein Verbot des Einsatzes, der Entwicklung, der Produktion, des Verkaufs und des Exports von Gesichtserkennungstechnologie für Massenüberwachungszwecke durch die Polizei und andere staatliche Behörden.

Gesichtserkennungstechnologie/ Facial Recognition Technology (FRT) ist ein Oberbegriff, der eine Reihe von Anwendungen beschreibt, die eine bestimmte Aufgabe erfüllen, indem sie ein menschliches Gesicht zur Verifizierung oder Identifizierung einer Person verwenden. Die Gesichtserkennung kann ein Mittel zur Identifizierung und Kategorisierung von Personen auf Grundlage ihrer physischen Merkmale sein, einschließlich Beobachtungen oder Rückschlüsse auf geschützte Merkmale – wie etwa ethnische Zugehörigkeit, Geschlecht, Alter oder Behindertenstatus.

Diese Technologie hat in den letzten Jahren einen enormen Aufschwung erlebt – vor allem im Bereich der Strafverfolgung. So behauptet beispielsweise die Firma Clearview AI, allein in den USA mit über 600 Strafverfolgungsbehörden zusammenzuarbeiten. In den Vereinigten Staaten setzen Polizeidienststellen im ganzen Land Gesichtserkennung zur Identifizierung von Demonstrierenden ein.

Der Einsatz der Gesichtserkennung durch die Polizei verstößt auf verschiedene Weise gegen die Menschenrechte. Der Einsatz könnte im Zusammenhang mit diskriminierender Polizeiarbeit und der rassistischen Erstellung von Profilen Schwarzer Menschen die Menschenrechtsverletzungen durch die Polizei noch verschärfen. Die Forschung hat immer wieder festgestellt, dass Gesichtserkennungs-Systeme einige Gesichter genauer verarbeiten als andere, je nach Schlüsselmerkmalen wie Hautfarbe, ethnischer Zugehörigkeit und Geschlecht. So hat beispielsweise das National Institute of Standards and Technology (NIST) die Auswirkungen von Ethnizität, Alter und Geschlecht auf die in den USA verwendeten führenden Systemen gemessen. Laut Dr. Charles H. Romine, dem Direktor des NIST, „wurden in der Studie höhere falsch-positive Raten bei Frauen, Afroamerikanern und insbesondere bei afroamerikanischen Frauen gemessen“.

Darüber hinaus warnen Forscher der Georgetown University davor, dass der Einsatz von Gesichtserkennungstechnologien „Afroamerikaner unverhältnismäßig stark beeinträchtigen werde“, was zum großen Teil darauf zurückzuführen ist, dass es auf den Überwachungslisten der US-Polizei deutlich mehr schwarze als weiße Gesichter gibt. Auch dort, wo die Erkennungsraten für marginalisierte Gruppen verbessert wurden, werden die Auswirkungen sowohl auf das Recht auf friedlichen Protest als auch auf das Recht auf Privatsphäre nicht beachtet. Beispielsweise erleben Schwarze bereits einen unverhältnismäßigen Eingriff in die Privatsphäre und andere Rechte, und die „Verbesserung“ der Genauigkeit kann nur darauf hinauslaufen, die Überwachung zu verstärken und eine bereits benachteiligte Gemeinschaft zu entmachten.

Bild von Amnesty.org

Gesichtserkennung bedeutet eine weit verbreitete Massenüberwachung, Sammlung, Speicherung, Analyse oder andere Nutzung von Material und die Sammlung sensibler persönlicher Daten (biometrischer Daten) ohne individualisierten, begründeten Verdacht auf kriminelles Fehlverhalten. Dies kommt einer willkürlichen Massenüberwachung gleich. Amnesty International ist der Auffassung, dass eine willkürliche Massenüberwachung niemals einen verhältnismäßigen Eingriff in das Recht auf Privatsphäre, Meinungsfreiheit und Versammlungsfreiheit darstellt.

Staaten müssen auch das Recht auf friedliche Versammlung ohne Diskriminierung respektieren, schützen und erfüllen. Das Recht, sich friedlich zu versammeln, ist nicht nur als Mittel der politischen Meinungsäußerung, sondern auch zum Schutz anderer Rechte von grundlegender Bedeutung. Friedliche Proteste sind ein grundlegender Aspekt einer lebendigen Gesellschaft, und die Staaten sollten die positive Rolle friedlicher Proteste bei der Stärkung der Menschenrechte anerkennen.

Es ist oft die Fähigkeit, Teil einer anonymen Menge zu sein, die es vielen Menschen ermöglicht, an friedlichen Versammlungen teilzunehmen. Wie der UN-Sonderberichterstatter für die Förderung und den Schutz des Rechts auf Meinungs- und Ausdrucksfreiheit, David Kaye, feststellte: „In Umgebungen, die einer zügellosen illegalen Überwachung unterliegen, wissen oder vermuten die Zielgemeinden von solchen Überwachungsversuchen, was wiederum ihre Fähigkeit zur Ausübung des Rechts auf Meinungs- [und] Versammlungsfreiheit formt und einschränkt“.

So wie die bloße Androhung von Überwachung einen abschreckenden Effekt auf die freie Meinungsäußerung der Menschen bei ihren Online-Aktivitäten hat, so wird der Einsatz von Gesichtserkennungstechnologieen Menschen davon abhalten, frei an friedlichen Versammlungen in öffentlichen Räumen teilzunehmen.

Eine Welle lokaler Gesetze im Jahr 2019 hat zahlreichen US-Städten, darunter San Francisco und Oakland in Kalifornien, sowie Somerville und Brookline in Massachusetts, Beschränkungen für den Einsatz von Gesichtserkennungssystemen in der Strafverfolgung gebracht. San Diego hat den Einsatz von diesen in der Strafverfolgung ab Januar 2020 ausgesetzt. Portland, Oregon, erwägt derzeit ein schrittweises Verbot des Einsatzes sowohl durch staatliche als auch private Akteure. In Massachusetts debattieren die Gesetzgeber unterdessen über ein landesweites Verbot des Einsatzes von Gesichtserkennungssystemen durch die Regierung.

Amnesty fordert den Verzicht auf den Einsatz, die Entwicklung, die Produktion, den Verkauf und den Export von Gesichtserkennungstechnologie für Massenüberwachungszwecke durch die Polizei und andere staatliche Behörden. Amnesty ist stolz darauf, gemeinsam mit Organisationen wie der Algorithmic Justice League, der ACLU, der Electronic Frontier Foundation und anderen, die auf die Gefahren der Gesichtserkennungstechnologie hingewiesen haben, dafür einzustehen.

25. Juni 2020