Kong Charles advarer om AI's potentielt dødelige risici

Kong Charles III sagde torsdag til topchefer fra AI-virksomheder, at kunstig intelligens kan udvikle "mørkere egenskaber; måske endda evnen til at tage menneskeliv", og at der skal være sikkerhedsforanstaltninger på plads, før det er for sent.

Advarslen faldt under et privat møde, som han var vært for, med nogle af branchens førende profiler og højtstående britiske embedsmænd. Kongen sagde til de fremmødte teknologichefer, at "de mennesker, som skabte disse teknologier, nu mere end nogensinde advarer om, at AI risikerer at udvikle mørkere egenskaber; måske endda evnen til at tage menneskeliv." Han tilføjede: "I den forbindelse, hvis jeg må sige det, forekommer det presserende nøje at undersøge de eksistentielle risici, der opstår, hvis disse teknologier ender i de forkerte hænder og bruges på potentielt katastrofale måder."

Deltagere og baggrunden for mødet

Blandt deltagerne var Nvidias administrerende direktør Jensen Huang, flere ledende medarbejdere fra OpenAI og Anthropic, den nye britiske minister for kunstig intelligens, Kanishka Narayan, samt chefen for landets udenlandske efterretningstjeneste. Paolo Benanti, pavens AI-rådgiver, var også til stede. Mødet var privat og fandt sted torsdag.

Udtalelserne er bemærkelsesværdige, fordi den britiske kongefamilie af forfatningsmæssige årsager traditionelt undgår at engagere sig dybt i politiske debatter, mens AI fortsat er et af verdens mest omstridte emner. Kongen beskrev den hastige AI-udvikling som både fascinerende og dybt bekymrende.

Sikkerhedsbekymringer og en nylig fratrædelse

Kongens kommentarer kom efter, at en forsker havde sagt op hos Anthropic med henvisning til sikkerhedsbekymringer. I et opslag på nettet skrev forskeren, at AI-virksomheder "konkurrerer om at bygge maskiner, der er langt klogere end noget menneske", og advarede om, at "menneskeheden måske ikke overlever dette."

Kong Charles sluttede med at opfordre lederne til at finde måder at udnytte kunstig intelligens' positive sider på og til at opbygge internationalt samarbejde og konsensus for at nå dette mål.