Giv ikke chatbots din fortrolighed: Signaler om privatliv

Behandl ikke en chatbot som en fortrolig. Kort sætning. Barsk virkelighed.

Meredith Whittaker, der leder den sikre beskedtjeneste Signal, sagde til Bloomberg uden at pakke det ind, at værktøjer som ChatGPT og Claude ikke er bevidste følgesvende. De efterligner samtale. De føler ikke. De forstår dig ikke på samme måde som et andet menneske gør. Den skelnen betyder mere end nogensinde, når grænsen mellem nyttig assistent og indtrængende tilstedeværelse bliver tyndere for hver måned.

Whittaker indrømmer, at hun nogle gange bruger AI til trivielle opgaver, for eksempel at finpudse et dokuments form, men hun går ikke så langt som at lade den stille spørgsmål, der former hendes tænkning. Hun beskytter det kreative og intellektuelle arbejde, som kommer fra menneskesindet. Hvorfor give et system, der aggregerer og udjævner det, der allerede findes, magten til at styre, hvordan vi tænker eller skriver?

Advarslen skærpedes, da hun reagerede på en nylig forudsigelse fra Mustafa Suleyman, Microsofts leder for AI, om at assistenter som Copilot kunne klare brugernes juleindkøb i år. Lyder praktisk. Men for at få det til at fungere ville assistenten have brug for en bemærkelsesværdig intim indsigt i dit liv: familiegruppechats, browserhistorik, kreditkort, adresser, kalendere - og evnen til at sende beskeder til pårørende på dine vegne. Ville du overlade alt det til én tjeneste?

Whittaker kalder den slags rækkevidde, hvad den er: en bagdør ind i privatlivet. I sammenhæng med en sikker messenger ville så gennemgribende adgang undergrave netop de garantier, brugerne søger. Signal vil ikke give AI-systemer vidtrækkende, indgribende tilladelser i sin app.

Debatten er ikke længere teoretisk. Efterhånden som AI-funktioner sniger sig ind på flere platforme, medfører hver ny bekvemmelighed et kompromis: hastighed for kontrol, effektivitet for nærhed. Hvor du trækker grænsen vil ikke kun definere din indbakke, men også hvem der får lov til at forme din opmærksomhed og dine valg.