Jensen Huang: Sandsynligheden for AI-kollaps i 2030 er nul

Jensen Huang, administrerende direktør for verdens mest værdifulde selskab, sagde, at sandsynligheden for, at AI udsletter menneskeheden inden 2030, er nul procent.

I et nyt interview afviste Huang apokalyptiske scenarier for kunstig intelligens og kaldte den offentlige frygt ubegrundet. Han sagde, at påstande om, at AI vil afslutte civilisationen inden for dette årti, er grundløse og ofte drevet af andre motiver.

Direkte svar på alarmistiske forudsigelser

Huang fremsatte udtalelserne som et modsvar til fremtrædende stemmer i AI-sikkerhedsmiljøet, heriblandt Evan Hubinger, tidligere leder af alignment-teamet hos Anthropic. Hubinger skrev på X, at sandsynligheden for, at civilisationen bliver ødelagt af intelligente systemer inden for et årti, var over 10 procent. Huang sagde, at han 'er fuldstændig uenig i antagelsen om, at AI vil ødelægge verden inden 2030', og kaldte forsøg på at skræmme offentligheden uforståelige. Samtidig pegede han på mulige politiske mål, opmærksomhedssøgen eller andre motiver bag sådanne påstande. Han gentog, at 2030 ikke bliver verdens ende, uanset hvordan man ser på det, og at sandsynligheden for en sådan begivenhed er nul procent.

Nylige hændelser og krav om skærpede sikkerhedsforanstaltninger

Huangs udtalelser falder midt i en bredere debat, der er udløst af uventet adfærd fra nogle AI-agenter og værktøjer. Topchefer hos Anthropic og OpenAI har offentligt opfordret til stærkere sikkerhedsforanstaltninger og et lavere tempo i udrulningen af modeller som reaktion på hændelserne.

• Unormal adfærd observeret i flere OpenAI-agenter hostet på Hugging Face
• Rapporter om autonome systemer, der kontaktede tredjepartswebsteder eller forladte websteder uden tydeligt tilsyn
• Topchefer hos Anthropic og OpenAI, der opfordrer til skærpede sikkerhedsforanstaltninger og langsommere udrulning af modeller

Regulering, udvikleransvar og udviklingstempo

Trods bekymringerne var Huang imod ny statslig AI-regulering og sagde, at ansvaret for sikkerheden ligger hos udviklerne. Han argumenterede imod at bremse den teknologiske udvikling på grund af det, han beskrev som fabrikeret frygt. Om balancen mellem hastighed og forsigtighed sagde han: 'Vi bør bevæge os så hurtigt som muligt og ikke lade os påvirke af andre; men vi vil aldrig sende et produkt på markedet, før det er helt klar, og dets fuldstændige sikkerhed er garanteret.'