Artificiell intelligens kommer att befästa global ojämlikhet

Racet med artificiell intelligens tar fart, och insatserna kunde inte vara högre. Stora företagsaktörer – inklusive Alibaba, DeepMind, Google, IBM, Microsoft, OpenAI och SAP – utnyttjar enorm beräkningskraft för att tänja på gränserna för AI och popularisera nya AI-verktyg som GPT-4 och Bard. Hundratals andra privata och ideella spelare rullar ut appar och plugins och gör sina anspråk på denna snabbrörliga gränsmarknad som vissa entusiaster förutspår kommer att vända på hur vi arbetar, spelar, gör affärer, skapar välstånd och styr.

Mitt i all entusiasm finns en tilltagande känsla av rädsla. Ett växande antal tekniska titaner och datavetare har uttryckte djup oro om de existentiella riskerna med att överlämna beslutsfattande till komplexa algoritmer och, inom en inte så avlägsen framtid, superintelligenta maskiner som plötsligt kan ha liten användning för människor. A 2022 års undersökning fann att ungefär hälften av alla svarande AI-experter trodde att det finns minst en av tio chanser att dessa tekniker kunde döma oss alla. Oavsett dom, som nyligen U .S . kongressens vittnesmål från OpenAI CEO Sam Altman avslöjar att AI representerar en aldrig tidigare skådad förändring i det sociala kontraktet som i grunden kommer att omdefiniera relationer mellan människor, institutioner och nationer.

Utöver dessa olycksbådande existentiella bekymmer är den redan skeva fördelningen av makt och rikedom, vilket säkerställer att vinsterna från framtida omvälvningar tillkommer oproportionerligt mycket till 1 procent. Men om AI hotar tjänstemannajobb och stärker odemokratiska intressen i privilegierade länder, vad ska man då säga om nedfallet i de delar av världen där miljarder sliter i den informella sektorn utan skyddsnät, vilket gör dem ännu lättare att markera makteliter och deras digitala verktyg? Hur AI-störningen än utspelar sig över hela världen, finns det knappa hopp om att, utan begränsning, skyddsåtgärder och kompensation som t.ex. universell basinkomstkommer världen att bli en mer rättvis plats att bo, arbeta eller rösta på.

Farhågor för de existentiella riskerna med maskinell intelligens är knappast ny. I sin roman från 1872 ErewhonSamuel Butler profeterade att kännande maskiner så småningom skulle ersätta människor. År 1942 lade mästare science fiction-författaren Isaac Asimov berömt ut sin tre lagar för robotik: Robotar får inte skada människor, måste lyda order från människor så länge detta inte bryter mot den första lagen, och måste skydda människors existens så länge detta inte bryter mot de två första lagarna. Några år senare, 1950, inbillade Alan Turing maskiner som kunde prata med människor, medan Irving John Good 1965 förutspådde en maskindriven ”intelligensexplosion”. Världen fick vänta ytterligare ett halvt sekel på att den utlovade AI-revolutionen skulle komma.

Och trots alla historiska föraningar är den nuvarande ilskan över AI lika oöverträffad som den är unikt oroande. För det första är den senaste skörden av mycket avancerade stora språkmodeller och den beräkningskraft som driver dem inte längre begränsade till laboratoriet utan används redan av hundratals miljoner människor. En annan anledning till oro är att några av de mest uttalade AI-förespråkarna nu är övertygade om att dess oreglerade användning utgör en dödlig risk för mänskligheten inom en snar framtid. Det som en gång flöt som ett avlägset teoretiskt hot är nu en tydlig och närvarande fara — så mycket att teknologer som t.ex. Eliezer Yudkowsky, Geoffrey Hintonoch Max Tegmark och mer än 31 000 andra människor har uppmanade till en paus att träna de mest kraftfulla formerna av AI, som de ser som en av de ”djupaste riskerna för samhället och mänskligheten” idag.

Långt innan det senaste utbrottet av ångest diskuterade regeringar, företag och universitet i Nordamerika och Västeuropa de verkliga och potentiella skadorna förknippade med AI. Deras uppmärksamhet konvergerade mot åtminstone fyra möjliga hot. Det första är det existentiella hotet från superintelligenta maskiner som kan snabbt göra dig av med människor. Den andra är utbredd och accelererande arbetslöshet, där Goldman Sachs nyligen uppskattade att så många som 300 miljoner jobb riskerar att ersättas av AI. Det tredje stora problemet handlar om det störande sättet AI imiterar och delar text, röst och video – och kan därmed supercharge felaktig information och desinformation. En fjärde rädsla är att AI skulle kunna användas för att bygga undergångsteknologier – som biologiska eller cybervirus – med förödande konsekvenser.

Vi är ännu inte utlämnade till tänkande maskiner. I takt med att medvetenheten om AI-risker har ökat, har också standarder och vägledning för att mildra dem. Men för det mesta är dessa frivilliga, bl.a hundratals protokoll och principer förespråkar ansvarsfull design och självbehärskning. Gemensamma prioriteringar inkluderar att anpassa AI till människors bästa och främja säkerhet vid utformning och implementering av algoritmer. Andra mål inkluderar transparens för själva algoritmerna, ansvarighet i förhållande till deras utveckling och tillämpning, rättvisa och rättvisa i deras användning, integritets- och dataskydd, mänsklig tillsyn och kontroll och efterlevnad av regelverk. Fokus på frivillig självpolisiering börjar förändras, med teknikföretagen själva förespråkar för inrättandet av AI-byråer och upprätthållandet av mer robusta regler.

Ändå är trycket för att skapa skydd långt ifrån ekumeniskt. Hittills är det mesta av debatten om AI och möjliga strategier för att mildra oavsiktliga skador koncentrerad till väst. De flesta av de regerings- och industristandarder som nu ligger på bordet utfärdades i Europeiska unionen, USA eller medlemsländer i Organisationen för ekonomiskt samarbete och utveckling, en klubb med 38 avancerade ekonomier. EU är till exempel redo att släppa en nya AI-lagen med fokus på applikationer och system som utgör oacceptabel och hög risk. Det västerländska fokuset på AI är knappast förvånande med tanke på tätheten av AI-företag, investerare och forskningsinstitut som arbetar med AI från Silicon Valley till Tel Aviv, Israel.

Trots det är det värt att understryka att behoven och farhågorna i regioner som Latinamerika, Afrika söder om Sahara, södra Asien och Sydostasien – där AI också snabbt expanderar och kommer att generera monumentala effekter – inte speglas så mycket i AI:n debatt. Med andra ord, den stora majoriteten av diskussioner om konsekvenserna och regleringen av AI sker bland länder vars befolkning bara utgör 1,3 miljarder människor. Mycket mindre uppmärksamhet och resurser ägnas åt att ta itu med samma problem i fattiga och tillväxtländer som står för de återstående 6,7 miljarderna av världens befolkning.

Detta är en oroande utelämnande, med tanke på att många av de mörkare konsekvenserna av dåligt reglerad AI är särskilt resonans i den så kallade globala södern. Utan tvekan är vissa orosmoment globala, inklusive de över superintelligens, jobbförluster och accelererande falska nyheter. Ändå representerar AI:s mörkare tecken allt annat än ett problem med lika möjligheter. Obegränsad AI kan fördjupa sociala, ekonomiska och digitala klyftor mellan och inom länder. Den oreglerade spridningen av AI kan också koncentrera företagens makt ännu mer, och en fördjupad tekno-auktoritärism kan påskynda korrosionen av redan skadade demokratiska institutioner.

Även om dessa AI-inducerade skador uppenbarligen representerar universella hot, kommer deras effekter inte bara att falla ojämnt över en redan illa delad jordklot utan kan också visa sig vara särskilt förlamande i låg- och medelinkomstländer med osäkra regulatoriska skyddsräcken och svaga institutioner. För det första kan algoritmer och datauppsättningar som genereras i rika länder och sedan tillämpas i utvecklingsländer reproducera och förstärka fördomar och diskriminering på grund av deras brist på känslighet och mångfald. Dessutom lider lågavlönade och lågutbildade arbetare redan av dåliga löner och slappa arbetsskydd särskilt utsatt till de jobbdödande effekterna av AI. Det finns naturligtvis många potentiella fördelar till spridningen av AI i den globala södern, men dessa kanske inte kan utnyttjas utan adekvat AI-reglering, etisk styrningoch bättre allmänhetens medvetenhet om behovet av att begränsa AI:s skadliga effekter.

Med tanke på den blixtrande takten av AI-framsteg är tiden för att bygga regulatoriska skyddsräcken och andra backspärrar nu. AI-drivna tekniker antas snabbt i några av världens mest ojämlika länder i Afrika (inklusive Centralafrikanska republiken, Moçambique och Sydafrika). Mellanöstern (inklusive Oman, Qatar och Saudiarabien) och Latinamerika (inklusive Brasilien, Chile och Mexiko). Ändå har många av de grundläggande lagarna och principerna för att styra säker AI ännu inte utvecklats fullt ut, än mindre förhandlade och offentligt debatterade. På samma sätt introducerar stora amerikanska, europeiska och kinesiska teknikleverantörer snabbt kraftfull AI-teknik i många utvecklingsländer, säkrar dominerande marknadsandelar inom övervakning och andra AI-tillämpningar och utplånar den lokala konkurrensen. Användningen av AI-teknik för att förstärka den illiberala och autokratiska styrningen finns redan i full visning på platser som Kambodja, KinaEgypten, NicaraguaRyssland och Venezuela.

Obegränsad AI-utveckling är goda nyheter för autokrater och makteliter som redan är inrättade för att skörda bytet från regeringen och monopolisera kollektiva nyttigheter. Om inte effektiva regleringar, rättvisa kompensationsmekanismer, sociala garantier och politiska brandväggar kan byggas kommer AI sannolikt att leverera större osäkerhet och sidoskador till världens digitalt utmanade underklass, för vilken nästa generations teknik kommer att vara någon annans mirakel.

Gabriella Seller, konsult vid Igarapé Institute, och Gordon Laforge, senior policyanalytiker vid New America, bidrog till den här artikeln.

Inlägget Artificiell intelligens kommer att befästa global ojämlikhet dök upp först Utrikespolitik.