OpenAI lancerer Betroet kontakt i ChatGPT for sikkerhed

Nogle behandler ChatGPT som et søgefelt. Andre taler til det, som hvis de skrev en besked til en ven kl. 2 om natten, når søvnen ikke vil komme. Det andet brugsscenarie har skubbet AI ind i et område langt tungere end produktdemonstrationer og hjælp til kodning, og OpenAI reagerer nu med en funktion designet til øjeblikke, hvor en samtale ser ud til at blive farlig.

Den nye funktion, kaldet Betroet kontakt, begynder nu at blive rullet ud i ChatGPT-indstillingerne for voksne brugere. Formålet er enkelt på papiret: lade en bruger vælge én person, som kan blive underrettet, hvis systemet opdager en alvorlig risiko for selvskade. I praksis forsøger OpenAI at bygge et sikkerhedsnet uden at forvandle private chats til automatiske alarmer.

Opsætning er frivillig. Brugere kan nominere én betroet person, men den person skal opfylde alderskravet: mindst 18 år i de fleste regioner eller 19 år i Sydkorea. Når personen er valgt, modtager kontakten en invitation, der forklarer rollen, og har syv dage til at acceptere. Hvis vedkommende afviser, kan brugeren vælge en anden.

Hvad der sker derefter, er hvor OpenAI tydeligvis forsøger at undgå overgreb. Alarmer sendes ikke automatisk i det øjeblik, systemet registrerer bekymrende sprog. Først fortæller ChatGPT brugeren, at deres Betroet kontakt kan blive underrettet. Det opfordrer også brugeren til at række ud direkte, og tilbyder endda forslag til, hvordan samtalen kan begynde. Derefter gennemgår en lille gruppe særligt trænede menneskelige vurderere sagen. Kun hvis de bekræfter, at situationen peger på en alvorlig risiko for selvskade, sender OpenAI en underretning.

Underretningen kan komme via e-mail, sms eller gennem appen. Den inkluderer ikke chatudskrifter, citater eller et sammendrag af samtalen. I stedet fortæller den kort den betroede person, at selvskade blev nævnt i en bekymrende kontekst, og beder vedkommende tage kontakt. OpenAI siger, at de tilstræber at færdiggøre den menneskelige vurdering på under en time.

Hvor dette passer ind i OpenAI's overordnede sikkerhedsindsats

Dette kommer ikke i isolation. OpenAI har allerede introduceret sikkerhedsfunktioner knyttet til teen-konti, inklusive advarsler til forældre, når tilknyttede konti viser tegn på nød. Betroet kontakt udvider den idé til voksne, hvilket siger meget om, hvordan virksomheden nu ser ChatGPT blive brugt. Chatbotten er ikke længere blot en produktivitetsassistent. For mange brugere er den blevet et sted for dybt personlige, følelsesladede samtaler.

Ifølge OpenAI blev funktionen udviklet med input fra klinikere, forskere og organisationer inden for mental sundhed, herunder American Psychological Association. Den eksterne involvering er vigtig. Ethvert værktøj, der berører risiko for selvskade, privatliv og kriseindsats, befinder sig i et følsomt rum, hvor designbeslutninger har reelle konsekvenser.

Der er også klare begrænsninger. Betroet kontakt er ikke en erstatning for en kriselinje, alarmtjenester eller professionel mental sundhedsstøtte. OpenAI siger, at ChatGPT fortsat vil henvise brugere til disse ressourcer, når det er nødvendigt. Brugere kan fjerne eller ændre deres valgte kontakt når som helst, og kontakten kan afmelde sig når som helst.

Der er et mere stille budskab i denne udrulning. OpenAI anerkender noget, som techindustrien har undveget i et stykke tid: folk bringer allerede deres mest sårbare øjeblikke til AI-chatbots. Om virksomhederne havde til hensigt det eller ej betyder det ikke længere så meget. Adfærden er der. Funktioner som Betroet kontakt er et forsøg på at reagere på den realitet med lidt mere forsigtighed, lidt mere menneskelighed og en erkendelse af, at selv den mest avancerede chatbot ikke bør være den eneste stemme i rummet, når det bliver mørkt.