I april, Protokol udgivet en rapport at påstået Zoom arbejdede på en måde at bruge kunstig intelligens (AI) til at spore følelser hos mennesker på kameraet. Nu kræver 27 menneskerettighedsorganisationer, at det opgiver forskningen.
Digital rights non-profit Fight for the Future og 26 andre menneskerettighedsorganisationer har sendt et åbent brev til Zoomog anmoder om, at det opgiver sin forskning i at bruge AI til at analysere følelserne hos mennesker, der bruger sin videokonferenceplatform.
protokollens april rapport hævdede, at Zoom aktivt undersøgte måder at inkorporere emotion-tracking AI i sin platform, så sælgere ville være bedre i stand til at reagere på ændringer i engagementet med deres kundeemner. Den anførte eksempler som “detekteret frustration. Vis empati” som måder, hvorpå Zoom ville være i stand til at give feedback til sælgere.
Fight for the Future siger, at denne software er diskriminerende, manipulerende, potentielt farlig og baseret på antagelser om, at alle mennesker bruger de samme ansigtsudtryk, stemmemønstre og kropssprog.
“Det er i sagens natur partisk og forbundet med iboende racistiske og diskriminerende praksisser såsom fysiognomi. Zooms brug af denne software giver troværdighed til pseudovidenskaben af følelsesanalyse, som eksperter er enige om ikke virker,” siger Fight for the Future.
“Ansigtsudtryk kan variere betydeligt og er ofte afbrudt fra følelserne nedenunder, så selv mennesker ofte ikke er i stand til nøjagtigt at dechifrere dem.”
Gruppen af menneskerettighedsorganisationer – som omfatter ACLU, Global Voices, Kairos, Jobs With Justice og Access Now – er enige.
“Vores følelsesmæssige tilstande og vores inderste tanker burde være fri for overvågning. Følelsesgenkendelsessoftware har igen og igen vist sig at være uvidenskabeligt, forenklet vrøvl, der diskriminerer marginaliserede grupper,” siger seniorpolitikanalytiker hos Access Now Daniel Leufer.
“Men selvom det virkede og præcist kunne identificere vores følelser, er det ikke noget, der har nogen plads i vores samfund, og bestemt ikke i vores arbejdsmøder, vores onlinelektioner og andre menneskelige interaktioner, som virksomheder som Zoom giver en platform for .”
Brevet anmoder Zoom om at respektere tillidsforholdet og respekten til sine brugere og offentligt opgive forskningen senest den 20. maj.
“Tidligere har du truffet beslutninger, der centrerer brugernes rettigheder, som da du ændrede mening om at blokere gratis brugere fra din krypterede tjeneste og igen, da du annullerede funktioner til ansigtssporing, fordi de ikke opfyldte privatlivsstandarder,” lyder brevet .
“Dette er endnu en mulighed for at vise, at du bekymrer dig om dine brugere og dit omdømme. Zoom er førende i branchen, og millioner af mennesker regner med, at du styrer vores virtuelle fremtid. Som leder har du også ansvaret for at sætte kursen for andre virksomheder i rummet. Du kan gøre det klart, at denne teknologi ikke har nogen plads i videokommunikation.”
Billedkreditering: Overskriftsbillede licenseret via Depositphotos.
.
