Kinesiska studenter uppfinner kappa som gör människor osynliga för AI-säkerhetskameror

Chinese Students Invent Coat That Makes People Invisible to AI Security Cameras

För blotta ögat ser den ut som vilken kamouflagemönster som helst. Men för säkerhetskameror med artificiell intelligens är det en osynlighetsmantel som effektivt döljer personen som bär den.

På dagen undkommer kappans skräddarsydda kamouflagetryck, designade genom en algoritm, detektering från kameror med synligt ljus. På natten, när säkerhetskameror vanligtvis identifierar människor genom infraröd värmeavbildning, avger pälsens inbäddade termiska enheter olika temperaturer – vilket presenterar ett ovanligt värmemönster som gör att pälsen kan flyga under radarn.

InvisDefense-kappan, som utvecklats av en grupp på fyra doktorander från Kinas Wuhan-universitet, var ett av projekten som vann första priset vid ”Huawei Cup”, en inledande innovationstävling för cybersäkerhet som stöds av den kinesiska teknologijätten Huawei.

”Vi spenderade mycket energi på att förbereda oss för det här, inklusive den här produktens design och utveckling,” berättade Wei Hui, doktorand i datavetenskap som designade kappans kärnalgoritm, till VICE World News. Han sa att InvisDefense-rocken presenterar ett ”nytt” sätt att kringgå AI-teknik för mänsklig upptäckt som används av befintliga säkerhetskameror.

När studenterna testade kappan på campussäkerhetskameror minskade noggrannheten för fotgängardetektering med 57 procent. Forskare sa att en av de största svårigheterna med att utveckla pälsen var att hitta en balans mellan att lura både kameran och det mänskliga ögat.

”Vi var tvungna att använda en algoritm för att designa en minst iögonfallande bild som kunde göra kameraseendet ineffektivt,” Wei Wei sa.

Kina har ett ökänt toppmodernt statligt övervakningssystem som är känt för att kränka medborgarnas integritet och rikta in sig på regimens politiska motståndare. 2019 var landet hem för åtta av de tio mest övervakade städerna i världen. Idag används AI-identifieringsteknologier av både myndigheter och företag, från identifiera ”misstänkta” muslimer i Xinjiang till avskräcka barn från att spela sent på kvällen.

Det har varit begränsat pushback; 2020 vann en juridikprofessor en rättegång mot en djurpark i Hangzhou för att ha samlat in besökares biometriska ansiktsdata utan deras medgivande, i landets första fallet någonsin utmanar användningen av ansiktsigenkänningsteknik.

Liknande integritetsproblem var på Wuhan University-teamets sinne när de designade InvisDefense-rocken, som kommer att säljas för cirka 500 yuan ($71).

”Säkerhetskameror som använder AI-teknik finns överallt. De genomsyrar våra liv”, sa Wei. ”Vår integritet exponeras under maskinseende.”

”Vi designade den här produkten för att motverka skadlig upptäckt, för att skydda människors integritet och säkerhet under vissa omständigheter.”

Enligt Wei inkluderar teamets framtida forskningsplaner att göra andra objekt ”osynliga” för AI-kameror – såsom livlösa föremål och rörliga bilar. De undersöker också att kringgå andra typer av kameror, till exempel de som använder fjärranalys, satelliter eller flygplan.

Men det verkar som om forskarna, som bor i Kina, inte är ute efter att undergräva statens svepande övervakningssystem. Enligt laget hoppas de faktiskt kunna förstärka det.

”Det faktum att säkerhetskameror inte kan upptäcka InvisDefense-rocken betyder att de är felaktiga”, sa Wei. ”Vi arbetar också med det här projektet för att stimulera utvecklingen av befintlig maskinseendeteknologi, eftersom vi i princip hittar kryphål.”

Följ Koh Ewe vidare Twitter och Instagram.

Inlägget Kinesiska studenter uppfinner kappa som gör människor osynliga för AI-säkerhetskameror dök upp först VICE.

Loading...