Das Massachusetts Institute of Technology (MIT) hat festgestellt, dass die Gesichtserkennungsplattform Rekognition von Amazon möglicherweise Rasse oder Geschlecht nicht genau oder fair identifiziert. In einem Bericht der wissenschaftlichen Forschungseinrichtung heißt es, dass Tests, die mit der Technologie durchgeführt wurden, ergaben, dass die Erkennung bei der Identifizierung einiger Rassen und Geschlechter im Vergleich zu anderen weniger effektiv war.
Zum Beispiel wurden fälschlicherweise einige Bilder von Frauen als Männer identifiziert, und dies war häufiger der Fall, wenn Bilder von Frauen mit dunklerer Haut präsentiert wurden. In 31% der Fälle wurde diese falsche Schlussfolgerung gezogen, verglichen mit einer Fehlerquote von 1,5% bei der alternativen Software von Microsoft.
AWS sagte jedoch, dass seine Software keine echte “Gesichtserkennungs” -Software ist, sondern “Gesichtsanalyse”. Es wurde entwickelt, um Mimik und nicht ethnische Zugehörigkeit oder Geschlecht zu identifizieren, und deshalb ist es weniger genau als seine Konkurrenten.
“”[F]Analyse [is] Wird normalerweise verwendet, um einen Katalog mit Fotos zu durchsuchen “, sagte Dr. Matt Wood, General Manager für Deep Learning und KI bei AWS, in einer Erklärung zu.”[F]Die Gesichtserkennung unterscheidet sich von der Gesichtsanalyse und versucht, Gesichter zu finden, die ähnlich aussehen. Dies ist der gleiche Ansatz, der zum Entsperren einiger Telefone oder zum Authentifizieren von Personen, die ein Gebäude betreten, oder durch Strafverfolgungsbehörden verwendet wird, um das Feld einzugrenzen, wenn versucht wird, eine Person von Interesse zu identifizieren. “
Er fügte hinzu, dass es “schlecht beraten” sei, die Software so zu verwenden, wie es das MIT getan habe, da sie nicht zur Identifizierung von Kriminellen entwickelt worden sei. Bei Tests mit der neuesten Version der Software gab AWS jedoch an, Daten von parlamentarischen Websites zum Testen der Genauigkeit verwendet zu haben und keine falsch positiven Übereinstimmungen mit der 99% -Konfidenzschwelle zu haben.
Es scheint jedoch, dass das Unternehmen seinen Aktionären den Zweck seiner Software besser mitteilen muss, da einige gefordert haben, dass das Unternehmen den Verkauf seines Gesichtserkennungsdienstes einstellt, weil sie der Meinung sind, dass er die Menschenrechte verletzt.
Ausgewählte Ressourcen
Management von Sicherheitsrisiken und Compliance in einer herausfordernden Landschaft
Wie wichtige Technologiepartner mit Ihrem Unternehmen wachsen
jetzt downloaden
Bewerten Sie Ihren Order-to-Cash-Prozess
15 empfohlene Metriken zum Benchmarking Ihrer O2C-Vorgänge
jetzt downloaden
AI 360: Halten, falten oder verdoppeln?
Wie KI Ihrem Unternehmen zugute kommen kann
jetzt downloaden
Erste Schritte mit Azure Red Hat OpenShift
Ein Entwicklerhandbuch zur Verbesserung der Funktionen zum Erstellen und Bereitstellen von Anwendungen
jetzt downloaden
