Betalt indhold: Meta betalte skabere med ekstremt indhold

Penge skiftede hænder. Hvad der lignede rutinemæssige udbetalinger til skabere finansierede stille konti knyttet til eksplicitte neo-nazistiske og yderligtgående højreorienterede organisatorer, fortæller en undersøgelse fra ABC Australia. Historien nedenfor handler mindre om regnskab end om, hvordan platformincitamenter kan omforme giftige hjørner af internettet.

Betalt for at poste: beviserne og aktørerne

Efterforskere sporede betalinger fra Facebooks indbydelsesbaserede monetiseringsprogram til sider og skabere, der gentagne gange offentliggjorde indhold, der overtræder platformens egne regler om hadtale. Navne dukkede op. En af dem, identificeret som Hugo Lennon, er blevet knyttet til hvid-nationalistiske netværk og blev tidligere anholdt i Melbourne for racistiske fornærmelser rettet mod Indiens premierminister. På trods af den baggrund begyndte Facebook at udbetale til ham i september sidste år.

Det er det, der alarmerer forskere og aktivister: en platform med et direkte kommercielt forhold til en udgiver, herunder royalties, indtægtsdeling og formelle invitationer, flytter penge til konti, der driver med betændt, ofte farlig retorik. Når et firma sætter betegnelsen 'skaber' på en organisator af had, bliver ansvarlighed et gråt område.

Victoria Rio, administrerende direktør for nonprofit-organisationen What To Fix, formulerede det klart: hvis Meta behandler disse sider som forretningspartnere og deler indtægterne med dem, så påtager virksomheden sig en vis grad af ansvar for det indhold, disse partnere producerer. Det er ikke blot et moralsk argument. Det er et spørgsmål om, hvordan platformens incitamenter omsættes til redaktionelle resultater.

Forskere i ekstremisme siger, at platformens finansielle logik belønner det, der skaber engagement. Kaz Ross, som studerer yderligtgående højrebevægelser, fortalte efterforskerne, at indhold, der vækker harme, ofte er den mest effektive måde at få klik, kommentarer og delinger på. Vrede omsættes til opmærksomhed. Opmærksomhed omsættes til penge.

Metas offentlige svar har været forsigtige. Talsmænd hævdede, at der er en forskel mellem hadefuld retorik og indhold, der krydser grænsen til opfordring til fysisk vold. Stødende indhold, sagde de, kan være udbredt og foruroligende, men det er ikke virksomhedens rolle at overvåge hvert stykke stødende indhold. Udtalelsen forklarede ikke, hvorfor kendte overtrædere kom ind i et indbydelsesbaseret monetiseringsprogram.

Problemet er strukturelt. Programmer, der betaler skabere, er tænkt til at belønne kvalitet og vedvarende engagement. Men de skelner ikke altid mellem samfundsorienterede skabere og propagandister. Algoritmer jagter interaktion. Mennesker fortolker skade. Når de to er ude af trit, bliver platforme frugtbar jord for at ommærke ekstremistisk indhold som legitim medieproduktion.

Hvad nu? Tilsynsmyndigheder og civilsamfundsgrupper vil presse på for gennemsigtighed: hvem bliver inviteret, hvilken baggrundskontrol finder sted, og hvordan håndteres gentagne overtrædelser, når finansielle relationer er involveret. Platformingeniører ved, hvordan engagement måles. Politikere må beslutte, hvilken del af det system der skal bevares, og hvad der skal ændres.

ABC-undersøgelsen minder os om, at incitamenter betyder noget. Et program skabt til at støtte skabere kan også finansiere agitatorer, når sikkerhedsforanstaltningerne er svage. Metas næste skridt vil blive fulgt nøje, ikke kun af journalister og NGO'er, men også af regeringer, der er bekymrede for de offline konsekvenser af online forstærkning.