EU håndhæver AI-gennemsigtighed: Nye mærkningsregler

Rul forbi endnu en manipuleret video, og du kan være vidne til en regelændring i praksis. Europa-Kommissionen er gået fra at udforme politik til håndhævelse og omsætter transparensforpligtelserne i AI-loven fra 2024 til praksis i hele EU.

Det betyder, enkelt sagt, at AI-genereret eller AI-ændret materiale skal mærkes tydeligt og synligt. EU har endda udviklet et lille visuelt sprog til formålet, med ikoner med teksten AI, AI-genereret og AI-ændret, så seere øjeblikkeligt kan se, om det, de ser eller hører, er produceret af en maskine.

Mærkninger skal dække et bredt spektrum af teknologier. Billeder, lyd og video, der efterligner virkelige personer, steder eller begivenheder (deepfakes), falder klart ind under de nye regler. Det samme gælder systemer, der profilerer følelser eller foretager biometrisk kategorisering, samt enhver tekst, der offentliggøres for at informere offentligheden om samfundsrelevante emner, hvor der ikke har været menneskelig gennemgang eller redaktionel kontrol.

Forvent, at chatbots og virtuelle assistenter også bliver berørt. Når brugere ikke taler med et menneske, skal platforme gøre det eksplicit. Ikke længere antagelser; gennemsigtighed vil blive indbygget i brugeroplevelsen.

Virksomheder, der ikke overholder reglerne, kan få bøder på op til €15 millioner eller 3% af deres årlige omsætning; EU-institutioner, organer og agenturer kan blive idømt bøder på op til €750.000, med proportionale sanktioner for SMV'er og små midcap-virksomheder.

Gennemførelsen af disse regler bliver ikke enkel. Udgivere og platforme får brug for robuste arbejdsgange til mærkning, vandmærkning eller oprindelsesmetadata samt revisionsspor for at bevise overholdelse. Der kan opstå en kaprustning om detektion med ondsindede aktører, der forsøger at undgå mærkninger. Og regulatorer må afveje håndhævelse imod de tekniske begrænsninger ved attribution og identifikation.

De praktiske konsekvenser rækker ud over juridiske regninger. Redaktioner, sociale platforme, annoncenetværk og civic tech står alle over for operationelle ændringer. Troværdighedssignaler bliver produktfunktioner. Verifikation bliver en konkurrencefordel frem for en intern kontrol.

For internationale virksomheder er budskabet klart: tilpas systemer og politikker nu, ikke senere. Overholdelse vil ikke være en afkrydsningsboks; det vil være en kontinuerlig proces med verifikation, åbenhed og dokumentation. Spørgsmålet for branchen er ikke længere, om gennemsigtighed betyder noget, men hvor hurtigt den kan indbygges i hverdagens digitale oplevelser.