En ny type meddelelse er stille begyndt at dukke op i forældres indbakker: når en teenagers ChatGPT-konto bliver suspenderet på grund af trusler eller voldelig adfærd, kan deres forælder eller værge nu blive informeret. Det er et skift, der behandler AI-sikkerhed mindre som en produktindstilling og mere som et signal om offentlig sikkerhed.
Ændringen følger kraftig kritik efter masseskyderiet i 2025 i Tumbler Ridge i Canada, hvor efterforskere fandt ud af, at den anklagede havde brugt ChatGPT før angrebet. Canadiske myndigheder spurgte, hvorfor OpenAI ikke havde underrettet nogen, da kontoen blev deaktiveret. Sam Altman, OpenAIs CEO, undskyldte for fejlen, og virksomheden gik i gang med at genoverveje, hvordan den markerer højrisikoadfærd.
OpenAI byggede meddelelsessystemet i samarbejde med Moonshot, en organisation med fokus på online skader og tidlig intervention. Vidya Ramalingam, Moonshots grundlægger, beskriver funktionen som et praktisk første skridt: at lade familier hurtigt få besked, når en alvorlig bekymring opstår, og pege dem i retning af ressourcer og næste skridt. Tidlig advarsel, hævder hun, gør tidlig hjælp mulig.
Hvordan fungerer det? Forældre, der er knyttet til en teenagers konto, modtager en besked med titlen "Vigtige ændringer i dit barns konto." Et klik på "Lær mere" forklarer, at kontoen blev deaktiveret for overtrædelse af politikker vedrørende trusler eller voldelige handlinger. Varslet er bevidst direkte, designet til at fjerne tvetydighed og fremskynde familiens reaktion.
Denne opdatering supplerer andre forældreværktøjer, som OpenAI allerede har rullet ud: begrænsninger på brugstimer, reduceret eksponering for følsomt indhold og undervisningstilstande, der guider elever gennem trinvis problemløsning, før et endeligt svar vises. ChatGPT opfordrer også yngre brugere til at holde regelmæssige pauser, et lille skub mod sundere skærmvane.
Der er afvejninger. Nogle vil hævde, at dette nærmer sig forældreovertvågning. Andre vil sige, at det er et ansvarligt lag af tilsyn, der kan forhindre eskalation. Den reelle prøve bliver, hvordan disse alarmer bliver brugt, om de fremkalder støttende indgriben eller straforienteret overreaktion.
I sidste ende satser OpenAI på, at gennemsigtige signaler, sendt til familier og understøttet af ressourcer, vil hjælpe med at opdage farlig adfærd tidligere i stedet for efter en tragedie.
Om denne tilgang mindsker reel skade i den virkelige verden afhænger af koordination mellem platforme, familier og lokale myndigheder. Et klik kan starte en samtale. Vil det være den rigtige?
"Gadget-nørd. Jeg tester alt fra hovedtelefoner til droner, så du ved, hvad du skal købe."
Diskussion
Skriv en kommentar
Kommentarer
Ingen kommentarer endnu. Vær den første.