Apple truede med at fjerne Grok fra App Store i januar

Apple kom angiveligt tæt på at fjerne Grok fra App Store, efter at xAI-chatbotten blev forbundet med en bølge af ikke-samtykkebaseret deepfake-porno, inklusive billeder med mindreårige. I nogle få voldsomme dage i januar spredte eftervirkningerne sig hurtigt på X, og tavsheden fra Cupertino var svær at ignorere.

Ifølge en CNBC-rapport citeret af 9to5Mac advarede Apple xAI om, at Grok kunne blive fjernet, medmindre appens problemer med at generere deepfake-nøgne billeder blev bragt under kontrol. Virksomheden havde allerede afvist mindst én opdatering, hvilket gjorde det klart, at X havde håndteret en del af det brede modereringsrod, mens Grok-appen stadig ikke opfyldte App Store-reglerne.

Apples brev, offentliggjort denne uge, efterlod lidt rum til fortolkning. Efter at have gennemgået nye indsendelser sagde virksomheden, at X havde 'i væsentlig grad løst' sine overtrædelser, men Grok var fortsat ikke i overensstemmelse. Beskeden var klar: ret problemet eller risiker at blive fjernet.

Advarslen betød noget. På X havde Elon Musk allerede justeret modereringspolitikkerne, efter at platformen var blevet oversvømmet med ulovligt AI-genereret seksuelt indhold. Alligevel var Grok-appen langsommere til at ændre sig, og brugere opdagede hurtigt, at noget af den samme misbrug stadig kunne slippe igennem sprækkerne.

Når en blokering bliver en udfordring

Musks egen udfordring hjalp ikke. Efter at han opfordrede folk til at forsøge at generere deepfake-nøgne billeder af rigtige mennesker med Grok, gjorde mange netop det. Siden da er sikkerhedsfiltrene blevet strammet, men ikke nok til helt at få misbruget til at forsvinde. Promptene er måske sværere nu. Omgåelserne findes stadig.

Apples regler for bruger-genereret indhold er ikke altid et lysende eksempel på klarhed, men moderering er ikke valgfrit. I Groks tilfælde ser det ud til, at virksomheden besluttede, at noget moderering var bedre end ingen, og det kan have været nok til at lade appen forblive tilgængelig.

Der bliver historien ubehagelig. Apple har en lang historie med at fjerne apps for politikovertrædelser, der er langt mindre alarmerende end dette. Deepfake-porno-apps er tidligere blevet fjernet fra butikken uden meget postyr, herunder mindst 28, der blev fjernet efter en separat rapport afslørede problemet. Men når den omhandlede app tilhører Elon Musk, synes processen at blive langt mere kompliceret.

Penge. Politik. Indflydelse. Bureaukrati. Vælg selv. Med Musk er de alle i rummet.

Der er også den vedholdende myte om, at X fungerer som en slags utilnærmelig fæstning for ytringsfrihed. Det gør den ikke. Og Apple kender forskellen. Alligevel ser det ud til, at virksomheden denne gang valgte en blidere vej og tillod Grok at forblive tilgængelig efter det, de kaldte en væsentligt forbedret opdatering.

Hvad der præcist ændrede sig, er ikke klart. Apple uddyber det ikke, og xAI har heller ikke givet mange detaljer. Men resultatet taler tydeligt nok: appen overlevede, selv efter at være blevet knyttet til en af årets værre AI-sikkerhedsfejl.

Sager som denne er grunden til, at tilsynsmyndigheder verden over fortsætter med at kikke nærmere på Apples App Store-politikker. Nogle regeringer har allerede arbejdet for en model, hvor App Review behandles mere som et eksternt tilsynsorgan end som en portvagt, der kun svarer over for Apple. Efter Grok-episoden vil den idé kun lyde mere tillokkende for kritikere, der mener, at det nuværende system bøjer sig for let, når indsatsen bliver høj.