Sam Altman om AI-risici, ansvar og krav til sikkerhed

På Salesforces Dreamforce-konference den 17. september 2026 sagde OpenAI-direktør Sam Altman: "Jeg mener, at en vis grad af ulykker er uundgåelig med ny teknologi."

Af Debasish - 17. september 2026. Altman satte bemærkningen i forbindelse med virksomhedernes reaktioner og evne til at lære og understregede, at det afgørende er, hvordan branchen håndterer hændelser, når de opstår. "Det, jeg virkelig går op i, er, at vi har en stærk kultur for rapportering af ulykker og læring," sagde han. Han pegede på den amerikanske føderale luftfartsadministration (FAA) og det nationale transportsikkerhedsråd (NTSB) som eksempler på institutioner, der undersøger hver hændelse og drager læring af den for at forbedre sikkerheden.

Altman anerkendte offentlighedens bekymring over ukontrollerede systemer og magtkoncentrationen hos få laboratorier. Han sagde, at bekymringerne er forståelige, og tilføjede: "Verden har ret til at være bange for det." Han understregede, at virksomhederne bør holde arbejdet med måltilpasning, sikkerhed og overvågning et godt stykke foran fremskridtene i modellernes kapaciteter. Hvis de ikke kan opretholde den balance, sagde han, bør de være parate til at sænke tempoet eller endda sætte forskningen på pause. Målet er ifølge Altman en ærlig gennemgang af hændelser og løbende forbedringer – ikke en selvtilfreds accept af skader.

Debat om tempo og autoritet

Udtalelserne kommer, mens granskningen af de førende AI-laboratorier intensiveres, særligt i takt med at systemerne nærmer sig større autonomi. Nylige bemærkninger fra Jacob Coxon, en forsker, der for nylig forlod Anthropic efter tidligere at have arbejdet hos OpenAI, har givet yderligere næring til debatten. Han advarede om, at virksomhederne kapløber mod selvforbedrende superintelligens.

Udtalelserne er en del af en større, løbende debat om, hvor hurtigt avanceret AI bør udvikles. Nogle stemmer i branchen har efterlyst større forsigtighed, mens den amerikanske politik under den nuværende regering har haft fokus på at fastholde den teknologiske førerposition.

Altman lagde mere vægt på procedurer end på regler: Accepter, at ulykker kan ske, men forpligt jer til gennemsigtig rapportering, hurtig gennemgang og måltilpasningsarbejde, der skal sikre, at sikkerhedsforanstaltningerne følger med kapacitetsudviklingen.