Nvidia-chef afviser AI-udryddelsesscenarier inden 2030

Nvidias administrerende direktør Jensen Huang afviste for nylig advarsler om, at kunstig intelligens kan føre til menneskehedens udryddelse. Han sagde, at nogle ledere i AI-virksomheder muligvis skræmmer offentligheden af andre motiver. I et interview med CBS Sunday Morning sagde han, at han vurderer sandsynligheden for, at AI vil føre til verdens undergang inden 2030, til nul procent.

Huang afviser påstande om eksistentiel risiko

Huang sagde, at bekymringer om AI-sikkerhed i vid udstrækning er legitime, men at advarsler, der fremstiller teknologien som en trussel om udryddelse, ikke er videnskabeligt funderede. Han erkendte, at AI kan have "forfærdelige anvendelser" og skal udvikles "sikkert", men fastholdt, at det er forkert at fremstille 2030 som verdens ende. "Uanset hvordan man beskriver det, bliver 2030 ikke verdens ende. Sandsynligheden for, at det er verdens ende, er nul procent," sagde han.

Ny debat i branchen og krav om regulering

Huangs bemærkninger faldt midt i en fornyet offentlig debat om AI-risici. Tidligere på måneden sagde en tidligere forsker fra Anthropic, at mange ansatte i førende AI-virksomheder "virkelig tror, at denne teknologi kan dræbe os alle inden udgangen af årtiet." Kommentaren bidrog til opfordringer fra branchen om langsommere udvikling og skærpede sikkerhedsforanstaltninger.

• Dario Amodei, Anthropics administrerende direktør, opfordrede til at bremse forskningen, indføre nationale testprogrammer og øge sikkerhedsforanstaltningerne.
• Sam Altman, OpenAIs administrerende direktør, støttede forslag om at bremse forskningen, og virksomheden opfordrede regeringer til at indføre obligatoriske sikkerhedskrav.
• En tidligere forsker fra Anthropic advarede om, at mange ansatte mener, at AI kan udgøre en eksistentiel trussel inden udgangen af årtiet.

Motiver, håndhævelse af eksisterende love og praktiske sikkerhedsforanstaltninger

Huang antydede, at nogle brancheledere muligvis overdriver den eksistentielle risiko af politiske årsager eller for at tiltrække opmærksomhed. Han mente også, at de seneste opfordringer til mere regulering kan afspejle forsøg på at undgå konsekvenser for overtrædelser af eksisterende regler, særligt i lyset af nylige sikkerhedshændelser. "Lad ikke denne apokalyptiske fortælling gøre det muligt for nogen at være undtaget fra de love, der allerede findes. De beder ikke reelt om flere love. De ønsker at være undtaget fra de love, vi har," sagde han og tilføjede: "Håndhæv først de eksisterende love."

Huang anbefalede, at AI-sikkerhed udvikles efter den praktiske, procedurebaserede tilgang, der anvendes i kommerciel luftfart. Efterhånden som teknologier modnes, flytter ingeniører ifølge Huang typisk fokus fra blot at sætte systemer i drift til at sikre sikker drift gennem verifikation, test, evaluering og standardisering. "Gør det praktiske først, og så kan vi tale om det teoretiske. Men tal ikke om det teoretiske uden at gøre det praktiske," sagde han.