OpenAI deltager frivilligt i amerikansk AI-tilsynsordning

Når en regering beder om at kigge under motorhjelmen på banebrydende AI, tøver virksomheder normalt. OpenAI gjorde det ikke, eller i hvert fald ikke helt. George Osborne, OpenAI's chef for lande, fortalte et London-publikum på SXSW, at virksomheden frivilligt vil deltage i den nye amerikanske proces, som beder om tidlig adgang til avancerede modeller.

Oprindeligt pressede den udøvende ordre fra Det Hvide Hus på et 90-dages vindue for indsendelse før frigivelse. Forslaget mødte modstand. Det blev lempet, ifølge rapporter ned til en 30-dages anmodning efter offentlig modstand og endda noget offentlig ambivalens fra præsident Trump selv. Den endelige ordlyd anmoder om adgang snarere end kræver det, men signalerer stadig et stærkere tilsyn for de mest kapable systemer.

OpenAI har accepteret at indsende sine næste generations modeller til en sammenlignende test designet til at vurdere "avancerede cyberkapaciteter hos AI-modeller" og til at hjælpe med at sætte tærsklen for, hvad regulatorer måske vil kalde en "dækket grænsemodel". Hvad betyder det i praksis? Tænk på det som stresstest af software for reelle risici: kapabiliteter, misbrugsrisiko og sikkerhedsposition måles alle op imod en målestok for offentlig interesse.

Osborne fremstillede tiltaget som proaktivt. Han sagde, at OpenAI har foreslået, hvordan regeringer kan overvåge AI-sikkerhed og -beskyttelse, ikke kun i USA, men globalt. Den tilgang afspejler et skift i branchen: virksomheder, der tidligere var defensive over for regler, ser nu en vis koordinering som en måde at undgå forhastede, dårligt udtænkte regler på.

Alligevel er frivilligt samarbejde forskelligt fra bindende tilsyn. Virksomheder kan efterkomme, rådgive eller gøre indsigelse. De kan også være med til at forme målestandarder og de definitioner, der følger af dem. For politikere bliver udfordringen at sikre, at målestandarder forbliver strenge, gennemsigtige og resistente over for indflydelse. For virksomheder handler regnestykket om omdømme, markedsadgang og den praktiske byrde ved at overdrage følsomme modeller, selv til godkendte vurderere.

Regulering ved anmodning. Sammenlignende test ved aftale. Et nyt kapitel i, hvordan industri og regering forhandler om kontrol over kraftfuld AI begynder, og det rejser velkendte men presserende spørgsmål om ansvarlighed, teknisk gennemsigtighed og hvem, der beslutter tærsklerne for sikkerhed. Hold øje med dette felt, selve testene kan fortælle os mere end nogen udøvende ordre.