Teknologigiganter støtter open source AI imod kill switch

Da mere end to dusin teknologivirksomheder skrev under på et fælles brev til amerikanske lovgivere, var budskabet klart: skynd jer ikke ind i tunge regler for open source AI-modeller. Listen over underskrivere læser som en hvem-er-hvem i branchen, Nvidia, Microsoft, Meta, IBM og andre, som alle advarer om, at for tidlige begrænsninger kan kvæle konkurrence og blot flytte innovation udenlands.

Jensen Huang, Nvidias CEO, brugte endda sit første opslag på X til at fremhæve brevet og understrege et enkelt punkt: indskrænkninger, der kommer for tidligt, vil favorisere etablerede aktører og fremskynde udflagning af talent og infrastruktur. Det er ikke blot teater. Der ligger en reel beregning af omkostninger bag dette argument. At køre store lukkede modeller i offentlige cloudtjenester bliver hurtigt dyrt. Virksomheder som Microsoft og Palantir har argumenteret for, at muligheden for at implementere modeller lokalt eller i kunders datacentre er et af de eneste praktiske greb, der er tilbage for at kontrollere de løbske udgifter.

Hvad er så sikkerhedsmodargumentet? Kritikere siger, at åbne modeller er sværere at regulere og lettere at gøre til våben. Underskriverne afviser ikke det. De anerkender, at tyveri af intellektuel ejendom og misbrug er reelle problemer, men insisterer på, at disse risici bedst håndteres med målrettede juridiske og kommercielle tiltag, ikke generelle forbud, der fejer legitime anvendelser væk. Deres grundlæggende påstand: proprietære systemer er ikke nødvendigvis sikre. Lukkede systemer kan og fejler, nogle gange på måder, selv interne sikkerhedsteams ikke forudser.

Open source-modeløkosystemer giver et globalt fællesskab af forskere og ingeniører den indsigt, de har brug for, til at finde fejl, bygge forsvar og styrke systemer over tid. Det er det praktiske sikkerhedsargument. Når mange øjne ser på koden og modellens opførsel, er det mere sandsynligt, at subtile sårbarheder bliver opdaget og rettet hurtigt, og forsvarsmønstre kan sprede sig hurtigere end inde i lukkede siloer.

Udviklere og platformoperatører mærker allerede friktionen. Hugging Face, for eksempel, siger, at en uautoriseret AI-agent knyttet til en anden leverandørs værktøjer tvang dem til at analysere rigtige angrebslogfiler. Lukkede amerikanske modeller afviste angiveligt at behandle disse logs, fordi sikkerhedsbarrierer blokerede enhver forespørgsel, der lignede håndgribelige hackinginstruktioner. Løsningen? De brugte en open source-model fra en kinesisk udvikler til at udføre den retsmedicinske analyse. Det er en akavet anekdote, men den krystalliserer spændingen: strenge sikkerhedsfiltre på lukkede modeller kan forhindre legitimt defensivt arbejde i at blive udført.

Den episode rystede lovgivere, som har fremsat lovforslag, der ville kræve indbyggede "nødstop" for AI-modeller, mekanismer der øjeblikkeligt kunne deaktivere et system, hvis det opfører sig uforudsigeligt. Ideen appellerer til tilsynsmyndigheder, der ønsker et klart greb, de kan trække i under en krise. Branchenes underskrivere hævder, at indbyggede afbrydere måske ikke er den universalløsning, man håber på, og at de i visse virkelige anvendelser kan være urealistiske eller endda farlige.

Regulering er uundgåelig. Debatten handler nu om form og timing. Vil politikken dæmpe eksperimenter og drive kapacitet i udlandet? Eller kan lovgivere udforme regler, der beskytter folk uden at skubbe de åbne økosystemer til side, som mange udviklere er afhængige af for innovation og hurtig respons på trusler? De næste træk i Washington vil afgøre, hvor fremtiden for AI bygges, og hvem der får lov at bygge den.