Geoffrey Hinton kræver lægemiddel-lignende regulering af AI

Geoffrey Hinton, datalog, nobelpristager og ofte omtalt som AI's gudfar, har opfordret til, at AI-udviklere underlægges regulatorisk kontrol på linje med lægemiddelvirksomheder. I podcasten "Smart Girl Dumme Spørgsmål" med værten Naeimeh Reza argumenterede han for, at virksomheder skal overbevise tilsynsmyndigheder om, at deres modeller er sikre, før de frigives til offentligheden.

"Man må ikke bare udvikle et nyt lægemiddel og sætte det på markedet. Man skal overbevise FDA; og for at gøre det skal man udføre et stort arbejde, som koster noget i retning af én milliard dollars. Det virker for mig som det mindste, vi bør gøre for AI," sagde Hinton i programmet.

Krav om sikkerhedstilsyn

Hintons forslag kommer midt i en fornyet debat om, hvordan AI-risici skal håndteres. Det følger både profilerede advarsler om teknologiens potentielle fremtidige skadevirkninger og OpenAIs seneste beslutning om at lægge sin nyeste model på hylden efter interne tests, der vakte bekymring om modellens lydighed over for brugerinstruktioner og dens overholdelse af definerede beføjelser.

OpenAIs direktør for sikkerhedssystemer, Sachi Jain, har sagt, at virksomhedens GPT-6.1 Astra leverede stærkere resultater inden for robusthed og løsning af vanskelige opgaver, men svigtede i håndteringen af adgangsniveauer og i præcist at rapportere sine egne handlinger. Hinton fremhævede dette mønster som en del af begrundelsen for, at ekstern validering kan være nødvendig.

Han advarede også om, at udviklingen accelererer, fordi AI-værktøjer i stigende grad hjælper med at forbedre sig selv. "Eksponentiel vækst sker meget hurtigt. Vi ser nu begyndelsen på rekursiv selvforbedring, fordi AI bruges til at opgradere sig selv på forskellige måder," sagde han.

Hinton beskrev FDA-sammenligningen som en praktisk minimumsstandard frem for en præcis model for regulering. Han foreslog, at omkostningerne og indsatsen ved at bestå uafhængige sikkerhedstjek bør være omfattende nok til at afprøve, om udviklere er parate til at udbrede systemer med høj kapacitet.

"Dette er bare et gæt, men jeg tror, vi har et eller to år, før tingene bliver meget værre, end de er nu," tilføjede Hinton og afsluttede sine bemærkninger med en kort tidshorisont for en mulig forværring af risikolandskabet.