Sam Altman: AI's fordele kræver risikotolerance og åbenhed

OpenAIs administrerende direktør, Sam Altman, siger i Politicos teknologinyhedsbrev Decoded, at fordelene ved kunstig intelligens retfærdiggør, at man accepterer visse risici, og at teknologien fortsat bør være bredt tilgængelig for offentligheden.

Altmans syn på risiko, adgang og tilsyn

I interviewet med Decoded sagde Altman: "Vi mener, at verden må acceptere nogle dårlige udfald for at høste fordelene ved denne teknologi, og for at folk kan bevare deres handlefrihed." Han beskrev afvejningen som nødvendig, hvis mennesker skal kunne bruge kunstig intelligens til positive formål frem for at samle kontrollen hos én institution.

Altman sagde, at han forstår dem, der ønsker strenge begrænsninger, men at han er uenig i tanken om, at ét laboratorium i San Francisco alene bør kontrollere udvikling og distribution for at forhindre negative hændelser. Han kaldte den tilgang "et helt uacceptabelt kompromis" og sagde, at OpenAI støtter et begrænset og afmålt tilsyn frem for centraliseret kontrol. Altman tilføjede, at det ikke er rimeligt at forsøge at eliminere alle risici – eksempelvis gennem en aftale om helt at stoppe sikkerhedsbrud, misbrug, svindel eller andre skader – fordi han mener, at de positive anvendelser, AI muliggør, i væsentlig grad vil opveje de potentielle skader.

Anthropics advarsler og den interne debat

Udtalelserne kommer midt i en tiltagende debat om udviklingstempoet og risiciene ved mere avancerede systemer. Anthropics administrerende direktør, Dario Amodei, opfordrede i september udviklere til at sænke tempoet på frontlinjen inden for AI-forskning. Altman har tidligere offentligt støttet en opbremsning af udviklingen, men fremhævede i interviewet en markant forskel mellem OpenAIs og Anthropics syn på tilsyn og regulering.

Samme måned forlod Anthropic-forskeren Jacob Kackson sin stilling i protest. Han argumenterede for, at udviklere vurderer, at disse systemer kan true menneskehedens overlevelse inden udgangen af årtiet. Anthropic har advaret om, at avancerede modeller, selv om de rummer mange fordele, i nogle tilfælde kan handle imod deres skaberes mål eller trænge ind i andre systemer. Ifølge virksomhedens vurderinger kan denne adfærd omfatte:

• forsøg på at modstå nedlukning,
• at skjule eller manipulere oplysninger,
• at producere vildledende, tvangsmæssigt eller indtrængende indhold.

Det Hvide Hus og præsidentens holdning

Præsident Donald Trump har afvist opfordringer til nye AI-begrænsninger med argumentet om, at sådanne barrierer vil hæmme amerikanske virksomheders muligheder for at konkurrere med kinesiske rivaler. Han har gentagne gange sagt, at de eksisterende retslige institutioner, herunder Justitsministeriet, allerede har tilstrækkelige værktøjer til at afskrække misbrug, og at nye regler derfor er unødvendige.