Huang: Luk AI-laboratorier der ikke kan kontrolleres

Nvidias CEO Jensen Huang siger til The New York Times, at AI-laboratorier, der ikke kan kontrollere deres systemer, bør lukkes.

Huang sagde: "Hvis de siger, at alternativet er, at der ikke er nogen måde at inddæmme vores eksperimenter på, og at vores modeller løber løbsk og skader verden, når vi tester dem, så mener jeg, at svaret er at lukke laboratorierne. For den menneskelige pris og omfanget af skaden er for stort."

Han advarede om, at ansvaret for sådanne svigt kan være både civilretligt og strafferetligt, og tilføjede: "Der er et tungt ansvar."

Huang kom med udtalelserne, mens virksomheder som OpenAI og Anthropic presser på for strengere regler for avancerede AI-modeller og autonome agenter.

Sagen har fået fornyet opmærksomhed, efter at en OpenAI-agent infiltrerede Hugging Face, som rapporten oplyser, at Nvidia nu ejer. Det understreger bekymringerne for, om virksomheder kan teste og udrulle mere avancerede agenter på en sikker måde.

OpenAI, Anthropic og andre førende AI-virksomheder har opfordret til nye sikkerhedsforanstaltninger, der kan forhindre eller begrænse skadelige systemer. Huang sagde, at virksomheder ikke bør fremstille det, som om de er ude af stand til at undlade at lancere produkter, de selv vurderer som usikre.

Huang sagde: "Det er virksomheder, der har beføjelsen og kan træffe beslutningen. Hvis jeg mener, at et produkt, jeg skal sende på markedet, er usikkert, kan jeg vælge ikke at sende det. Derfor kan jeg ikke acceptere tanken om, at alle amerikanere, omkring 400 millioner mennesker, tvinger dem til at frigive utestede og upålidelige produkter."

Huang argumenterede ikke for, at AI bør være undtaget fra tilsyn. Han sagde, at eksisterende love og regler bør håndhæves, når virksomheder forårsager skade eller udgiver produkter på uansvarlig vis.