WASHINGTON – At lyde alarmer om kunstig intelligens er blevet et populært tidsfordriv i ChatGPT-æraen, optaget af højt profilerede personer så forskellige som industrimanden Elon Musk, den venstreorienterede intellektuelle Noam Chomsky og den 99-årige pensionerede statsmand Henry Kissinger.
Men det er bekymringerne hos insidere i AI-forskningsmiljøet, der tiltrækker sig særlig opmærksomhed. En banebrydende forsker og den såkaldte “Godfather of AI” Geoffrey Hinton forlade sin rolle hos Google, så han mere frit kunne tale om farerne ved den teknologi, han var med til at skabe.
I løbet af hans årtier lange karriere var Hintons banebrydende arbejde med dyb læring og neurale netværk med til at lægge grundlaget for meget af den AI-teknologi, vi ser i dag.
Nogle af farerne ved AI-chatbots er “ret skræmmende,” Hinton fortalte BBC. “Lige nu er de ikke mere intelligente end os, så vidt jeg kan se. Men jeg tror, de snart kan være det.”
I et interview med MIT Technology ReviewHinton pegede også på “dårlige aktører”, der kan bruge kunstig intelligens på måder, der kan have skadelige indvirkninger på samfundet – såsom at manipulere valg eller anstifte vold.
Hinton, 75, siger, at han trak sig tilbage fra Google, så han kunne tale åbent om de potentielle risici som en, der ikke længere arbejder for teknologigiganten.
“Jeg vil gerne tale om AI-sikkerhedsproblemer uden at skulle bekymre mig om, hvordan det interagerer med Googles forretning,” sagde han til MIT Technology Review. “Så længe jeg bliver betalt af Google, kan jeg ikke gøre det.”
Google bekræftede, at Hinton havde trukket sig tilbage fra sin rolle efter 10 år at have tilsyn med Google Research-teamet i Toronto.
Hinton reagerede ikke umiddelbart på en anmodning om kommentar fra The Associated Press.
Kernen i debatten om AI’s tilstand er, om de primære farer er i fremtiden eller nutiden. På den ene side er hypotetiske scenarier for eksistentiel risiko forårsaget af computere, der afløser menneskelig intelligens. På den anden side er der bekymringer om automatiseret teknologi, der allerede bliver bredt udbredt af virksomheder og regeringer og kan forårsage skade i den virkelige verden.
“For godt eller ej, hvad chatbot-øjeblikket har gjort, er at gøre AI til en national samtale og en international samtale, der ikke kun omfatter AI-eksperter og -udviklere,” sagde Alondra Nelson, som indtil februar ledede Det Hvide Hus Office of Science og Teknologipolitik og dens fremstød for at udarbejde retningslinjer omkring ansvarlig brug af AI-værktøjer.
“AI er ikke længere abstrakt, og vi har denne form for åbning, tror jeg, for at have en ny samtale om, hvad vi ønsker, at en demokratisk fremtid og en ikke-udnyttende fremtid med teknologi skal se ud,” sagde Nelson i et interview i sidste måned. .
En række AI-forskere har længe udtrykt bekymring over race, køn og andre former for skævhed i AI-systemer, herunder tekstbaserede store sprogmodeller, der er trænet på enorme mængder af menneskelig skrift og kan forstærke diskrimination, der findes i samfundet.
“Vi er nødt til at tage et skridt tilbage og virkelig tænke over, hvis behov der bliver sat i centrum i diskussionen om risici,” sagde Sarah Myers West, administrerende direktør for nonprofitorganisationen AI Now Institute. “De skader, der bliver indført af AI-systemer i dag, er virkelig ikke jævnt fordelt. Det forværrer i høj grad eksisterende mønstre af ulighed.”
Hinton var en af tre AI-pionerer, der i 2019 vandt Turing Award, en hæder, der er blevet kendt som teknologiindustriens version af Nobelprisen. De to andre vindere, Yoshua Bengio og Yann LeCun, har også udtrykt bekymring over AIs fremtid.
Bengio, en akademiker og AI-pioner, underskrev et andragende sidst i marts opfordrer teknologivirksomheder til at acceptere en 6-måneders pause med at udvikle kraftfulde AI-systemer, mens LeCun, en top AI-forsker hos Facebook-moderselskabet Meta, har taget en mere optimistisk tilgang.
_______
AP Technology Reporter Matt O’Brien rapporterede fra Cambridge, Massachusetts.
Posten ‘Godfather of AI’ forlader Google og advarer mod teknologiens farer dukkede op først Associeret presse.
.
