I april, Protokoll publicerade en rapport att påstådda Zoom arbetade på ett sätt att använda artificiell intelligens (AI) för att spåra känslor hos människor i kameran. Nu kräver 27 människorättsorganisationer att den överger forskningen.
Digitala rättigheter ideella Fight for the Future och 26 andra människorättsorganisationer har skickat ett öppet brev till Zoomoch ber om att överge sin forskning om att använda AI för att analysera känslor hos människor som använder sin videokonferensplattform.
Protokoll April rapport påstod att Zoom aktivt undersökte sätt att införliva känslospårande AI i sin plattform så att säljare bättre skulle kunna reagera på förändringar i engagemang med sina framtidsutsikter. Den angav exempel som ”frustration upptäckt. Visa empati” som sätt som Zoom skulle kunna ge feedback till säljare.
Fight for the Future säger att denna programvara är diskriminerande, manipulativ, potentiellt farlig och bygger på antaganden om att alla människor använder samma ansiktsuttryck, röstmönster och kroppsspråk.
”Det är i sig partiskt och kopplat till i sig rasistiska och diskriminerande metoder som fysionomi. Zooms användning av den här programvaran ger trovärdighet åt pseudovetenskapen om känsloanalys som experter är överens om inte fungerar”, säger Fight for the Future.
”Ansiktsuttryck kan variera avsevärt och är ofta bortkopplade från känslorna under så att även människor ofta inte kan dechiffrera dem korrekt.”
Gruppen av människorättsorganisationer – som inkluderar ACLU, Global Voices, Kairos, Jobs With Justice och Access Now – håller med.
”Våra känslotillstånd och våra innersta tankar borde vara fria från övervakning. Känsloigenkänningsprogram har gång på gång visat sig vara ovetenskapligt, förenklat skräp som diskriminerar marginaliserade grupper, säger Senior Policy Analyst på Access Now Daniel Leufer.
”Men även om det fungerade och kunde identifiera våra känslor exakt, är det inte något som har någon plats i vårt samhälle, och absolut inte i våra arbetsmöten, våra onlinelektioner och andra mänskliga interaktioner som företag som Zoom tillhandahåller en plattform för .”
I brevet uppmanas Zoom att respektera förhållandet av förtroende och respekt med sina användare och offentligt överge forskningen senast den 20 maj.
”Tidigare har du fattat beslut som centrerar användarnas rättigheter, som när du ändrade dig om att blockera gratisanvändare från din krypterade tjänst och igen när du avbröt ansiktsspårningsfunktioner eftersom de inte uppfyllde integritetsstandarder”, står det i brevet .
”Det här är ytterligare en möjlighet att visa att du bryr dig om dina användare och ditt rykte. Zoom är en branschledare och miljontals människor räknar med att du förvaltar vår virtuella framtid. Som ledare har du även ansvaret att sätta kursen för andra företag i utrymmet. Du kan göra det klart att den här tekniken inte har någon plats i videokommunikation.”
Bildkrediter: Header foto licensierad via Depositphotos.
.
