OpenAI forbyder masseovervågning i forsvarsaftale — grænse

Sam Altman lyder normalt ikke som en mand, der forbereder sig på en retssag. Denne gang gjorde han det.

Efter kraftig kritik af OpenAIs nyligt offentliggjorte arbejde med det amerikanske forsvarsministerium siger virksomhedens administrerende direktør, at aftalen bliver omskrevet for at gøre ét punkt umuligt at misforstå: OpenAIs AI-systemer må ikke anvendes til masseovervågning af amerikanere.

Altman offentliggjorde et internt notat — oprindeligt sendt til medarbejdere — som beskriver ændringen. Den opdaterede formulering, siger han, vil udtrykkeligt forbyde bevidst indenlandsk overvågning af amerikanske personer og statsborgere, ved at knytte denne begrænsning til eksisterende juridiske sikkerhedsforanstaltninger som Det fjerde forfatningstilæg (Fourth Amendment), Lov om national sikkerhed (National Security Act) og Foreign Intelligence Surveillance Act (FISA).

Notatets foreslåede ordlyd er usædvanligt direkte for en regeringsleverandør. Det fastslår, at og i overensstemmelse med gældende amerikansk lovgivning, må AI-systemet "ikke bevidst anvendes til indenlandsk overvågning af amerikanske personer og statsborgere." Der tilføjes også en præciserende sætning, der skal lukke huller: forbuddet omfatter bevidst sporing eller overvågning, selv når dette bygger på kommercielt indkøbt personligt eller identificerbart data.

En kontraktjustering — og en klar grænse

Altman hævder også, at forsvarsministeriet bekræftede noget andet, som kritikere straks frygtede: OpenAIs tjenester vil ikke under den nuværende aftale blive dirigeret videre til amerikanske efterretningstjenester som NSA. Hvis det nogensinde skulle ændre sig, siger han, ville det kræve en formel kontraktændring.

Den sætning, der spredte sig hurtigst, lød: Altman skrev, at hvis han modtog en ordre, han mente var forfatningsstridig, ville han hellere gå i fængsel end efterkomme den. Det er en dramatisk formulering, men det er også et signal om, at OpenAI forsøger at tegne en tydelig linje mellem "forsvarsarbejde" og "indenlandsk overvågning" — et skel, som ofte bliver sløret i mødet med avanceret AI-teknologi.

Altman indrømmede samtidig, at udrulningen var rod. Ifølge hans egen fremstilling blev meddelelsen sendt ud for hurtigt — han sagde, at spørgsmålene er "meget komplekse" og kræver klarere kommunikation. Hensigten var, hævdede han, at deeskalere en spændt situation og forhindre "et langt værre udfald." I stedet fik timingen aftalen til at fremstå opportunistisk.

Tidspunktet var bemærkelsesværdigt. OpenAIs partnerskab kom frem umiddelbart efter, at præsident Donald Trump beordrede amerikanske myndigheder til at indstille brugen af Anthropics Claude og andre Anthropic-tjenester. Anthropic har bemærkelsesværdigt arbejdet med den føderale regering siden 2024, hvilket gjorde situationen mere kompleks politisk og kommercielt.

Hvad præcist ændres i kontrakten?

Den foreslåede ændring er pragmatisk: en eksplicit sætning i kontraktteksten, som forbyder bevidst brug til indenlandsk overvågning af amerikanske personer og statsborgere. Den slags formulering er mere direkte end den typiske kontrakttekst mellem private teknologivirksomheder og offentlige instanser, hvor juridiske kildehenvisninger ofte overlades til separate fortolkningsnotater.

Ved at knytte forbuddet til kendte juridiske rammer — Det fjerde forfatningstilæg, National Security Act og FISA — forsøger OpenAI at placere virksomhedens bindende forpligtelser inden for et allerede etableret retsligt landskab. Det gør det nemmere for både interne compliance‑teams og eksterne revisorer at vurdere, om en given anmodning overskrider en grænse.

Praktisk set betyder en kontraktændring, at enhver ny, væsentlig anvendelse som fx at give dataadgang til efterretningstjenester eller at levere funktioner velegnet til masseovervågning, formelt set ville kræve en ændring af aftalen. Det giver en procesmæssig barriere: ændringer skal forhandles, dokumenteres og ofte gennemgå juridisk godkendelse.

Juridiske og operationelle implikationer

Der er flere konsekvenser at overveje:

• Retslig klarhed: At nævne konkrete love hjælper med at afgrænse, hvad "indenlandsk overvågning" betyder i praksis, men juridiske gråzoner vil forblive, især omkring dataudveksling og udledning af identificerbare mønstre.
• Compliance‑arbejde: OpenAI og enhver leverandør skal opgradere deres audit‑logs, adgangskontrol og datastyring for at kunne dokumentere overholdelse.
• Politisk ansvarlighed: En kontraktbestemmelse kan være nødvendig, men ikke tilstrækkelig, hvis eksekveringen i praksis åbner for omgåelse via tredjepartsdata eller underleverandører.

Samlet set er kontraktens ændring et styringsredskab, men dets effektivitet afhænger af hvordan både teknologi og datahåndtering styres i praksis.

Anthropic, sikkerhedsforanstaltninger og det politiske trykkoger

Den dybere historie handler ikke kun om én kontraktklausul — den afspejler en voksende splittelse mellem store AI‑laboratorier omkring, hvad deres modeller må bruges til i regeringshånd.

I Altmans memo gengives rapporter om, at forsvarsministeriets ledelse og sekretær Pete Hegseth havde presset Anthropic for at svække Claudes sikkerhedsforanstaltninger, så modellen kunne bruges til ethvert "lovligt" formål. I den sammenhæng omfattede den påståede liste over "lovlige" brugsmåder både masseovervågning og arbejde hen imod fuldautomatiske våben.

Anthropic takkede nej. I en erklæring sagde virksomheden, at "ingen grad af intimidering eller straf" ville ændre dens holdning til masseindenlandsk overvågning eller fuldautomatiske våben. Efterfølgende udstedte præsidentens kontor en ordre, og forsvarsministeriet indledte efter sigende tidlige skridt mod at mærke Anthropic som en "forsyningskæderisiko" — en mærkat, der oftere benyttes om udenlandske (ofte kinesiske) firmaer formodet at have tætte forbindelser til en fremmed stat.

Hvorfor betyder "forsyningskæderisiko" noget?

At blive klassificeret som en forsyningskæderisiko kan have langtidsvirkninger. Det kan begrænse en virksomheds adgang til kontrakter, føre til forbud mod brug i visse føderale systemer og skabe en negativ stigmatisering, som svækker tilliden hos både offentlige og kommercielle kunder.

For en relativt ny aktør i AI‑markedet som Anthropic har en sådan markering både økonomiske og omdømmemæssige konsekvenser — særligt hvis den placerer virksomheden i samme kategori som firmaer, der mistænkes for at kunne kompromittere nationale interesser.

Konkurrence, politik og offentlig opfattelse

Spørgsmålet her er både etisk og konkurrencepræget. Hvis ét laboratorium insisterer på skarpere sikkerhedsbegrænsninger, mens et andet accepterer bredere anvendelser, får markedet et tydeligt differentieringspunkt. Det udspiller sig offentligt:

Efter nyheden om OpenAIs aftale med forsvarsministeriet toppede Anthropics Claude på Apples App Store Top Gratis‑apps‑liste, forbigik ChatGPT og Google Gemini. Anthropic reagerede hurtigt for at drage fordel af situationen og lancerede et værktøj til at importere hukommelse, som gjorde det nemmere for brugere at skifte chatbot. Samtidig steg afinstallationer af ChatGPT dramatisk — Sensor Tower rapporterede om en stigning på 295% dag‑til‑dag.

Denne bevægelse viser, at tillid er en flygtig ressource i AI‑økosystemet: brugere reagerer hurtigt, når de oplever, at sikkerhedsrepræsentanter eller virksomhedspolitikker kan være forhandlingsbare.

Tekniske sikkerhedsforanstaltninger og modelstyring

Bag overskrifterne findes en række tekniske foranstaltninger, som virksomheder kan bruge for at begrænse misbrug:

• Adgangskontrol: Finmaskede API‑rettigheder og rollestyring begrænser, hvem i en organisation eller i en kundeorganisation der kan anmode om følsomme funktioner.
• Dataminimering: Principper om kun at indsamle og behandle de data, der er nødvendige for en bestemt opgave, reducerer mængden af identificerbare oplysninger, som potentielt kan misbruges.
• Differential privacy og anonymisering: Teknikker som differential privacy kan mindske risikoen for, at træningsdata eller brugerdata rekonstrueres i outputs.
• Rød‑teamning og sikkerhedstest: Systematisk forsøg på at omgå sikkerhedsforanstaltninger (red‑teaming) afdækker sårbarheder før udrulning.
• Juridiske klausuler og auditerbarhed: Kontrakter, der kræver dokumentation, uafhængige revisioner og logning af forespørgsler, øger mulighed for ansvarlighed.

Disse tekniske og organisatoriske tiltag gør det sværere (men ikke umuligt) at misbruge AI‑systemer til masseovervågning.

Sammenfattende er konflikten mellem OpenAI og Anthropic et symptom på større spændinger i branchen: hvordan balancerer man innovation, national sikkerhed, etiske forpligtelser og kommercielle incitamenter?

Det centrale spørgsmål for både politikere, virksomheder og brugere er, om klare, håndhævelige sikkerhedsforanstaltninger kan fastlåse adfærdsnormer, eller om økonomiske og politiske interesser løbende vil presse disse rammer.

Uanset udfaldet vil historien blive brugt i kommende debatter om AI‑regulering, offentlige kontrakter og teknologisk ansvarlighed.