Amazon

Amazon verbietet der Polizei die Nutzung seiner Gesichtserkennungstechnologie für das nächste Jahr

Von Johanna Schaleen

Veröffentlicht am 07.06.2020

Amazon kündigt ein einjähriges Moratorium für die Nutzung seiner umstrittenen Gesichtserkennungsplattform Rekognition durch die Strafverfolgungsbehörden an, teilte der E-Commerce-Riese am Mittwoch mit.

Die Nachricht kommt nur zwei Tage nach IBM sagte, es würde nicht mehr anbieten, entwickeln, oder Forschung Gesichtserkennung Technologie, unter Berufung auf mögliche Menschenrechte und Datenschutzverletzungen und Forschung, die Gesichtserkennung Technologie, trotz der Fortschritte durch künstliche Intelligenz zur Verfügung gestellt, bleibt voreingenommen entlang Linien von Alter, Geschlecht, Rasse, und ethnischer Herkunft.

Ein Großteil der grundlegenden Arbeit, die die Schwächen moderner Gesichtserkennungstechnologie in Bezug auf rassistische Voreingenommenheit aufzeigt, ist Joy Buolamwini, einer Forscherin am MIT Media Lab, und Timnit Gebru, einem Mitglied von Microsoft Research, zu verdanken. Buolamwini und Gebry waren Co-Autoren eines viel zitierten Papiers aus dem Jahr 2018, das herausfand, dass die Fehlerraten von Gesichtserkennungssystemen großer Tech-Unternehmen, einschließlich IBM und Microsoft, bei der Identifizierung von dunkelhäutigen Personen um Dutzende von Prozentpunkten höher waren als bei der Identifizierung von weißhäutigen Personen. Die Probleme liegen zum Teil in den Datensätzen, mit denen die Systeme trainiert werden, die laut einem Bericht der New York Times überwiegend männlich und weiß sein können.

In einer separaten Studie aus dem Jahr 2019 analysierten Buolamwini und Co-Autorin Deborah Raji Rekognition und fanden heraus, dass auch Amazons System erhebliche Probleme hatte, das Geschlecht von dunkelhäutigen Personen zu identifizieren und dunkelhäutige Frauen mit Männern zu verwechseln. Bei der Analyse von Bildern hellhäutiger Menschen arbeitete das System mit einer Fehlerquote nahe Null, so die Studie.

Amazon hat versucht, die Ergebnisse zu untergraben, aber Buolamwini hat eine lange und detaillierte Antwort auf Medium gepostet, in der sie sagt: „Amazons Ansatz war bisher eine Leugnung, Ablenkung und Verzögerung. Wir können uns nicht darauf verlassen, dass Amazon sich selbst kontrolliert oder unregulierte und unbewiesene Technologie der Polizei oder Regierungsbehörden zur Verfügung stellt.“ Ihre und Rajis Erkenntnisse wurden später von einer Gruppe von Dutzenden von KI-Forschern unterstützt, die einen offenen Brief verfassten, in dem sie sagten, dass Rekognition fehlerhaft sei und nicht in den Händen von Strafverfolgungsbehörden sein sollte.

Amazon gab keinen konkreten Grund für die Entscheidung an, abgesehen von der Forderung nach einer bundesstaatlichen Regulierung der Technologie, obwohl das Unternehmen sagt, dass es die Software weiterhin an Organisationen zur Verfügung stellen wird, die sich für vermisste und ausgebeutete Kinder und den Kampf gegen den Menschenhandel einsetzen. Der unausgesprochene Kontext hier ist natürlich der Tod von George Floyd, ein schwarzer Mann von ehemaligen Minnesota Polizisten getötet, und laufende Proteste in den USA und der Welt gegen Rassismus und systemische Polizeibrutalität.

Es scheint, als ob Amazon entschieden hat, dass man der Polizei nicht zutraut, die Technologie verantwortungsvoll zu nutzen, obwohl das Unternehmen nie offengelegt hat, wie viele Polizeidienststellen die Technologie tatsächlich nutzen. Im letzten Sommer schien es so, als ob nur zwei Abteilungen – eine in Oregon und eine in Florida – Rekognition aktiv nutzen würden, und Orlando hat seitdem aufgehört. Ein weitaus verbreiteteres Gesichtserkennungssystem ist das von Clearview AI, einem geheimnisvollen Unternehmen, das sich nun mit einer Reihe von Datenschutzklagen konfrontiert sieht, nachdem es Social-Media-Seiten nach Fotos durchsucht und eine Datenbank mit mehr als 3 Milliarden Fotos aufgebaut hat, die es an Strafverfolgungsbehörden verkauft.

In einer Stellungnahme an The Verge, Clearview AI CEO Hoan Ton-That verdoppelt auf die Technologie als eine effektive Strafverfolgung Werkzeug. „Während Amazon, Google und IBM beschlossen haben, sich aus dem Markt zurückzuziehen, glaubt Clearview AI an die Mission einer verantwortungsvoll eingesetzten Gesichtserkennung zum Schutz von Kindern, Opfern von Finanzbetrug und anderen Verbrechen, die unsere Gemeinschaften heimsuchen“, sagte er. Ton-That sagt, dass Clearviews Technologie „tatsächlich funktioniert“, aber dass die Gesichtserkennung „nicht dazu gedacht ist, als Überwachungsinstrument im Zusammenhang mit Protesten oder unter irgendwelchen anderen Umständen eingesetzt zu werden.“

Abgesehen von Studien, die die Effektivität der Technologie in Frage stellen, wurde Amazon im Laufe der Jahre immer wieder dafür kritisiert, dass es den Zugang zu Rekognition an die Polizei verkauft hat, und zwar von Aktivisten, Bürgerrechtsorganisationen wie der ACLU und Gesetzgebern, die alle Bedenken über den Mangel an Aufsicht darüber geäußert haben, wie die Technologie bei Ermittlungen eingesetzt wird, und über mögliche eingebaute Voreingenommenheit, die sie unzuverlässig und reif für Diskriminierung und andere Missbräuche macht.

Selbst nachdem Mitarbeiter im Jahr 2018 Bedenken über die Technologie geäußert hatten, sagte Amazons Cloud-Chef Andrew Jassy, dass das Unternehmen sie weiterhin an die Polizei verkaufen würde. Erst durch Medienberichte und Aktivisten sowie die Arbeit von Forschern wie Buolamwini, die auf die Fallstricke des polizeilichen Einsatzes von Gesichtserkennungstechnologien wie Rekognition hinwiesen, begannen Abteilungen, Verträge mit Amazon zu kündigen.