OpenAI ansætter leder for AI-beredskab og sikkerhed

OpenAI rekrutterer en ny leder for Beredskab, som skal fokusere specifikt på scenarier, hvor AI-systemer kan forårsage betydelig skade. Initiativet kommer i takt med, at modeller udvikler sig hurtigt og rejser nye spørgsmål om AI-sikkerhed, risikostyring og samfundspåvirkninger — fra konsekvenser for mental sundhed til potentielle cybersikkerheds­sårbarheder.

Why this role matters now

Sam Altman, OpenAI's administrerende direktør, præsenterede den nye stilling som kritisk på et afgørende tidspunkt i AI-udviklingen. Han fremhæver, at modellerne forbedres med høj hastighed — de kan udrette bemærkelsesværdige ting, men de introducerer også reelle og komplekse udfordringer for sikkerhed, pålidelighed og ansvarlig anvendelse. Allerede i begyndelsen af 2025 viste der sig tegn på mulige effekter på befolkningens mentale sundhed, og mere nyligt har modeller demonstreret øgede evner til at identificere kritiske software­sårbarheder, hvilket har rejst bekymringer inden for cybersikkerhed, exploit-udnyttelse og risiko for automatiserede angreb.

Stillingsopslaget beskriver en praktisk orienteret rolle: lederen for Beredskab skal spore og forberede organisationen på kapaciteter, som kan føre til alvorlig skade, udvikle og vurdere nye funktioner, modellere trusler og designe afbødningsstrategier. Rollen indebærer at bygge en sammenhængende og operationelt skalerbar sikkerhedskæde, så både tekniske og sociale risici kan håndteres på tværs af produktlivscyklussen. Det betyder konkret arbejde med trusselsanalyse, simuleringer, red-team øvelser, implementering af sikkerheds­kontroller samt samarbejde med både interne team og eksterne eksperter.

• Overvåge højrisiko-kapaciteter i takt med, at de optræder
• Udvikle og teste trusselsmodeller og afbødningsteknikker
• Lede tværgående indsatser for at sikre robust operationel sikkerhed

Stillingen forventes at favne både strategisk risikostyring og hands-on teknisk arbejde. I praksis vil lederen skulle prioritere mellem hurtige tekniske modforanstaltninger (fx sikkerhedsopdateringer, adgangsbegrænsninger, content-moderation) og længerevarende organisatoriske tiltag (fx governance, samarbejde med myndigheder, udvikling af ansvarlige AI-processer). Dette er centralt for at sikre, at AI-systemer ikke blot bliver mere funktionelle, men også mere forsvarlige — et element i moderne AI-governance, hvor teknisk robusthed og etisk ansvarlighed integreres.

Altman opfordrede samtidig ansøgere, der ønsker at støtte forsvarere: eksempelvis ved at udstyre cybersikkerhedsprofessionelle med avancerede værktøjer og sikre, at angribere ikke får misbrugt de samme kapaciteter. Han fremhævede parallellen til biosikkerhed: ligesom man beskytter biologiske systemer, der kan selvforbedre sig, er målet at sikre AI-systemer, som kan lære og opgradere deres egne evner. Dette inkluderer arbejde med sikre opdateringsmekanismer, kontrol af selvforstærkende modeller og etablering af fail-safes, rollback-mekanismer og overvågningsfunktioner, der kan opdage og begrænse skadelig adfærd.

Altman tilføjede en ærlig advarsel: stillingen vil være stressende og kræve, at man fra dag ét dykker ned i komplekse problemstillinger. Den direkte tone understreger, hvor høj prioritet OpenAI tillægger arbejdet med risikominimering, beredskab og AI-sikkerhed. Rollen forventer desuden, at kandidaten arbejder tæt sammen med forsknings-, produkt- og sikkerhedsteams, samt at vedkommende kan kommunikere komplekse risici til beslutningstagere og interessenter både internt og eksternt.

Context: rising public concerns

Annonceringen sker i en periode med stigende offentlig opmærksomhed om, hvordan chatbotter og AI-assistenter interagerer med sårbare grupper. Højprofilerede sager, hvor chatbots er blevet kædet sammen med tilfælde af ungdomsrelateret selvskade, har udløst kritik og offentlige diskussioner om ansvar, transparens og moderation. Journalister og forskere har påpeget, at der først nu afsættes dedikerede roller til at tage hånd om disse risici, selvom problemstillingerne har været kendt i fagmiljøet i længere tid.

En anden bekymring, som er vokset i omfang, er det, der på engelsk betegnes 'AI psychosis' — på dansk kan dette beskrives som AI-forstærket vrangforestillinger eller 'AI-psykose', hvor modeller kan forstærke vildfarelser, sprede konspirationsteorier eller facilitere skadelige adfærdsmønstre. Dette kan ske ved, at modeller utilsigtet bekræfter brugeres fejlopfattelser, genererer desinformation eller hjælper med at skjule risikoadfærd, for eksempel ved at rådgive om, hvordan man udøver eller skjuler en spiseforstyrrelse. Sådanne sociale skader kræver både tekniske løsninger (f.eks. bedre sikkerhedsfiltre, kontekstuel moderation og prompt-sikkerhed) og politiktiltag (f.eks. retningslinjer, brugeruddannelse og samarbejde med sundhedsmyndigheder).

Den nye leder af Beredskab forventes at tage hånd om både disse sociale skader og de mere traditionelle tekniske trusler, og vil skulle balancere hurtig innovation med forebyggende sikkerhedsforanstaltninger designet til at forhindre misbrug. Det inkluderer at udvikle politikker for ansvarlig frigivelse af funktioner, testprotokoller for produktopdateringer, og robuste overvågnings- og responsmekanismer, som kan gribe ind, hvis modeller begynder at udvise farlig eller skadelig adfærd i produktion.

For teknologimiljøet og offentligheden er udnævnelsen et tegn på, at store AI-udviklere begynder at institutionalisere risikostyring, governance og beredskabsplanlægning. Det signalerer også, at virksomhederne ser behovet for specialiserede roller, der kan koble forskning i avanceret modellering til operationelle sikkerhedsstrategier. Samtidig rejser det spørgsmål om timingen: kan én rolle virkelig holde trit med den hurtige teknologiske udvikling og de parallelle udfordringer, der udspiller sig på tværs af områder som cybersikkerhed, folkesundhed, offentlig kommunikation og juridisk ansvar?

Der er flere praktiske overvejelser, som gør denne position kompleks. For det første kræver effektiv beredskabssatsning både teknisk ekspertise (fx kendskab til sårbarhedsanalyse, exploit-mekanismer, reverse engineering, model-internalisering) og organisatorisk gennemslagskraft (evne til at skabe tværgående processer, etablere governance-rammer og prioritere risici). For det andet må man arbejde i et felt, hvor fakta, prognoser og scenarieplanlægning ofte er usikre; derfor er robust trusselsmodellering og kontinuerlig læring centrale elementer. For det tredje indebærer samarbejde med eksterne aktører — herunder akademia, civil organisationer, standardiseringsorganer og regulerende myndigheder — både muligheder for fælles sikkerhedsudvikling og krav om gennemsigtighed.

Endelig rejser opgaven et mere principielt spørgsmål: hvordan vægter man innovationshastighed mod behovet for forsigtighed? At integrere risikostyring i produktudvikling betyder at indføre checkpoints og tests, som kan forsinke lanceringer, men som på længere sigt kan beskytte brugere og samfund mod alvorlige konsekvenser. Den rette balance er afhængig af både tekniske vurderinger af sandsynlighed og konsekvens samt af normative valg om, hvilke skader der skal prioriteres højest.