OpenAI opløser beredskabsteam midt i børsforberedelse

Forestil dig en gruppe, hvis eneste job var at forestille sig det værste og forhindre, at det skete. Det hold eksisterer ikke længere hos OpenAI. I slutningen af sidste måned opløste virksomheden stille og roligt sit Preparedness-team, en enhed der havde til opgave at undersøge katastrofale risici fra avanceret AI og udvikle modforanstaltninger mod uforudsigelig adfærd og potentielle cyberangreb mod andre organisationer.

Opgaverne forsvandt ikke. De blev fordelt. Trusler, der tidligere blev håndteret under én samlet paraply, herunder biologiske og cyberrisikovurderinger, er blevet flyttet til eksisterende teams rundt omkring i virksomheden. Det er en omfordeling, ikke en direkte tilbagetrækning, men billedet er tydeligt: et specialiseret team med fokus på ekstreme scenarier er blevet indlemmet i bredere grupper.

Tidsplanen rejser spørgsmål, mens OpenAI nærmer sig børsen

Denne omrokering kommer, mens OpenAI forbereder en børsintroduktion, en periode hvor virksomheder ofte strammer strukturer og finpudser fortællinger for investorer. Gennem de seneste år har OpenAI bevæget sig væk fra den akademiske, forskningsførende model, der prægede de tidlige dage. Tidligere har virksomheden opløst teams dedikeret til AGI-beredskab og Superalignment, og flere ledende sikkerhedspersoner er forladt, herunder Chloë Bakalar, Josh Akiam og Johannes Haidke. Kritikere siger, at dette mønster signalerer en omrokering af prioriteringer hen imod produkttempo.

Stemmer fra tidligere insiders er direkte. Ian Likhe, som forlod i 2024, har advaret om, at sikkerhedsprioriteter risikerer at blive overskygget af drivkraften til at levere tiltalende produkter. Denne kritik rører ved kernen i en vanskelig afvejning: hvordan man balancerer hurtig udrulning og innovation med dybt, ofte langsomt sikkerhedsarbejde, der forudser sjældne, men alvorlige udfald.

Hvor meget adskiller dette sig fra almindelig virksomhedsomrokering? På nogle måder er det standard. På andre måder er indsatsen større: vi taler om systemer, der kan forbedre sig selv og påvirke andre modeller. Disse evner komplicerer sikkerhedsstyring, især når den dedikerede enhed, som havde et systemperspektiv, ikke længere eksisterer i samme form.

Dylan Skandinaro, som kom til OpenAI fra Anthropic i februar for at lede Preparedness, vil under den nye struktur fortsætte forskningen i AI's nedstrømsvirkninger og risici med fokus på rekursiv selvforbedring, den klasse af systemer der autonomt kan optimere sig selv og træne andre modeller. Det arbejde er fortsat afgørende. Rekursiv selvforbedring er ikke et hypotetisk hjørnetilfælde, det er en kraft, der ændrer, hvordan vi tænker om kontrol og tilsyn.

For myndigheder, forskere og virksomhedskunder er det centrale spørgsmål, om de omfordelte ansvarsområder kan bevare den dybde og uafhængighed, som specialiseret sikkerhedsarbejde kræver.

Der er praktiske fordele ved at integrere sikkerhedsekspertise på tværs af teams: hurtigere feedback-cyklusser, tættere tilpasning mellem ingeniører og risikoanalytikere og mindre friktion, når sikkerhedsforanstaltninger skal eftermonteres i live-produkter. Men integration risikerer også udvanding. Når sikkerhed bliver én stemme blandt mange i produktmøder, bliver hårde afvejninger om udgivelsestempo, funktionssæt og acceptable risikogrænser kontroversielle.

OpenAIs tiltag er en påmindelse om, at organisatorisk design betyder lige så meget som teknisk kapacitet. Omrokeringen vil blive fulgt nøje af akademia, branchekolleger og beslutningstagere, der er blevet vant til at se højprofilerede institutioner opretholde dedikerede sikkerhedsfunktioner. Virksomheden siger, at ændringen er ment til at skærpe fokus, ikke til at nedprioritere risikoreduktion. Skeptikere vil forholde sig afventende, indtil de ser, hvordan ansvarlighed og ressourcer udfolder sig i praksis.

Der er stadig spændinger. Kan en spredt sikkerhedsmodel matche årvågenheden fra et centraliseret team? Vil nye trusler, fra modstanderangreb til uventet fremtrædende adfærd, få den vedvarende opmærksomhed, de kræver? Disse svar vil forme ikke kun OpenAIs omdømme, men også den bredere samtale om, hvordan man styrer hurtigt fremskreden AI.