- Der Vergleich
- Video
- Amazon verbietet der Polizei den Einsatz von Gesichtserkennungstechnologie
Amazon hat der Polizei ein Jahr lang die Nutzung seiner Gesichtserkennungssoftware untersagt. Nach Angaben des Kabinetts soll das Moratorium für die Nutzung von Amazon Rekognition den Regierungen viele Möglichkeiten geben, Vorschriften und Rahmenbedingungen einzuführen, um zu verhindern, dass die Gesichtserkennung zu Diskriminierung in irgendeiner Form beiträgt. In der Zwischenzeit wird Amazon weiterhin Organisationen, die sich mit Problemen wie Menschenhandel und Kindesentführung befassen, die Nutzung seiner Technologie gestatten. Die Ankündigung folgt auf ähnliche Maßnahmen von IBM, die alle Entwicklungs- und Forschungsaktivitäten im Zusammenhang mit der umstrittenen Technologie aufgrund der Gefahr eines Missbrauchs eingestellt haben.
Amazon-Gesichtserkennung
Obwohl die Gesichtserkennungstechnologie in den letzten Jahren erhebliche Fortschritte gemacht hat und zu legitimen polizeilichen Ermittlungen beitragen kann, war ihre Anwendung stets umstritten. Die Bedenken hinsichtlich der Möglichkeiten der Massenüberwachung und des Social Scoring werden durch das Problem der KI-bezogenen Voreingenommenheit verschärft, die dazu führen könnte, dass Menschen aufgrund ihrer körperlichen Eigenschaften diskriminiert werden. Die Methoden zur Prüfung der Datensätze, die KI-Modellen (einschließlich Gesichtserkennungssoftware) zugrunde liegen, auf Voreingenommenheit sind nach wie vor inkonsistent und unreguliert, was die Möglichkeit erhöht, dass die Technologie demografischen Minderheitengruppen weiteren Schaden zufügen könnte. Amazon Rekognition hat sich selbst mit rassistischer Voreingenommenheit befasst. In einem von den Forschern Joy Buolamwini und Deborah Raji gemeinsam verfassten Artikel aus dem Jahr 2019 wird behauptet, dass die Software Menschen mit dunklerer Hautfarbe nicht richtig identifiziert und außerdem Frauen mit dunkler Hautfarbe mit Männern verwechselt. Die Studie ergab außerdem, dass das Amazon-System Bilder hellhäutiger Personen mit nahezu perfekter Genauigkeit auswerten konnte. Die Ergebnisse wurden dann von einer Gruppe von KI-Forschern überprüft, die sich den von Buolamwini geäußerten Bedenken anschlossen, dass die Technologie nicht im Kontext der Strafverfolgung eingesetzt werden sollte. Amazon scheint zu derselben Schlussfolgerung gekommen zu sein, obwohl das Unternehmen nie den Vorwurf eingeräumt hat, dass seine Rekognition-Software rassistisch voreingenommen sei. „Wir verhängen ein einjähriges Moratorium für den Einsatz der Gesichtserkennungstechnologie von Amazon durch die Polizei“, heißt es in einer Erklärung des Unternehmens. „Wir haben uns dafür eingesetzt, dass Regierungen strengere Vorschriften für den ethischen Einsatz von Gesichtserkennungstechnologie erlassen, und in den letzten Tagen scheint der Kongress bereit zu sein, diese Herausforderung anzunehmen.“ „Wir hoffen, dass dieses einjährige Moratorium dem Kongress genügend Zeit geben kann, die entsprechenden Regeln umzusetzen, und wir sind bereit, zu helfen, wenn wir darum gebeten werden.“ Es ist nicht bekannt, wie viele Strafverfolgungsbehörden Amazon Rekognition vor dem Verbot genutzt haben, obwohl diese Entscheidung eine radikale Änderung der Richtlinien seit 2018 darstellt, als Andy Jassy, CEO von AWS, den Mitarbeitern sagte, er sei mit dem Wert zufrieden, den der Dienst allen Kunden bot, einschließlich die Polizei. Über The Verge