Im April, Protokoll einen Bericht veröffentlicht dass angeblich Zoom an einer Möglichkeit arbeite, mithilfe künstlicher Intelligenz (KI) die Emotionen von Menschen vor der Kamera zu verfolgen. Jetzt fordern 27 Menschenrechtsorganisationen, dass die Forschung eingestellt wird.
Der gemeinnützige Verein Fight for the Future für digitale Rechte und 26 andere Menschenrechtsorganisationen haben gesendet Ein offener Brief an Zoomund forderte, dass es seine Forschung zur Verwendung von KI zur Analyse der Emotionen von Menschen, die seine Videokonferenzplattform nutzen, aufgibt.
Protokoll Aprilbericht behauptete, dass Zoom aktiv nach Möglichkeiten forsche, Emotions-Tracking-KI in seine Plattform zu integrieren, damit Verkäufer besser auf Änderungen in der Interaktion mit ihren potenziellen Kunden reagieren könnten. Es nannte Beispiele wie „Frust erkannt. Empathie zeigen“ als Möglichkeiten, wie Zoom Verkäufern Feedback geben kann.
Fight for the Future sagt, dass diese Software diskriminierend, manipulativ, potenziell gefährlich ist und auf der Annahme basiert, dass alle Menschen die gleichen Gesichtsausdrücke, Stimmmuster und Körpersprache verwenden.
„Es ist von Natur aus voreingenommen und mit von Natur aus rassistischen und diskriminierenden Praktiken wie der Physiognomie verbunden. Die Verwendung dieser Software durch Zoom verleiht der Pseudowissenschaft der Emotionsanalyse Glaubwürdigkeit, von der Experten übereinstimmen, dass sie nicht funktioniert“, sagt Fight for the Future.
„Gesichtsausdrücke können erheblich variieren und sind oft von den darunter liegenden Emotionen abgekoppelt, so dass selbst Menschen sie oft nicht genau entziffern können.“
Die Gruppe von Menschenrechtsorganisationen – zu der ACLU, Global Voices, Kairos, Jobs With Justice und Access Now gehören – stimmt zu.
„Unsere emotionalen Zustände und unsere innersten Gedanken sollten frei von Überwachung sein. Emotionserkennungssoftware hat sich immer wieder als unwissenschaftlicher, vereinfachender Müll erwiesen, der marginalisierte Gruppen diskriminiert“, sagt Daniel Leufer, Senior Policy Analyst bei Access Now.
„Aber selbst wenn es funktioniert hat und unsere Emotionen genau identifizieren könnte, hat es keinen Platz in unserer Gesellschaft und schon gar nicht in unseren Arbeitstreffen, unserem Online-Unterricht und anderen menschlichen Interaktionen, für die Unternehmen wie Zoom eine Plattform bieten .“
Der Brief fordert Zoom auf, das Vertrauens- und Respektverhältnis zu seinen Nutzern zu respektieren und die Forschung bis zum 20. Mai öffentlich einzustellen.
„In der Vergangenheit haben Sie Entscheidungen getroffen, die die Rechte der Benutzer in den Mittelpunkt gestellt haben, z. B. als Sie Ihre Meinung geändert haben, kostenlose Benutzer von Ihrem verschlüsselten Dienst zu sperren, und erneut, als Sie Gesichtsverfolgungsfunktionen gekündigt haben, weil sie nicht den Datenschutzstandards entsprachen“, heißt es in dem Brief .
„Dies ist eine weitere Gelegenheit, um zu zeigen, dass Ihnen Ihre Benutzer und Ihr Ruf am Herzen liegen. Zoom ist ein Branchenführer und Millionen von Menschen verlassen sich darauf, dass Sie unsere virtuelle Zukunft gestalten. Als Führungskraft haben Sie auch die Verantwortung, die Weichen für andere Unternehmen in der Branche zu stellen. Sie können deutlich machen, dass diese Technologie in der Videokommunikation nichts zu suchen hat.“
Bildnachweis: Header-Foto lizenziert über Depositphotos.
.
