Når Chatbots fører til falske webbutikker og svindel

Nogen klikkede på et link, der så officielt ud. Prisen var for god til at være sand. Pakken dukkede aldrig op. Bankkontoen blev tømt. Dette er ikke en teknothriller. Det er et mønster, sikkerhedsforskere nu opdager, hvor samtale-AI møder onlinebedrageri.

Nyere undersøgelser fra svigttjek-tjenesten Ask Silver fandt, at ChatGPT kan fremvise overbevisende, men falske onlinebutikker, når brugere spørger om produkter fra velkendte britiske mærker som Russell & Bromley eller Dunelm. Lokkende rabatter. Troværdige butikssider. Links, der leder kunder til klonede hjemmesider designet til at stjæle penge og betalingsoplysninger.

Når træningsdata bliver et svagt led

Angribere planter ondsindede sider på tværs af nettet. Disse sider bliver crawlet, indekseret og, når timingen er rigtig, optaget i de kilder, der fodrer store sprogmodeller. Resultatet er det eksperter kalder 'dataforgiftning': modellen lærer af bedrageriske sider og gentager derefter samme dårlige råd til almindelige brugere.

Anna Jones fra Ask Silver siger, at kriminelle nogle gange udnytter uventede tidspunkter i et mærkes livscyklus, for eksempel ejerskifte eller at den officielle side er nede, til at fodre AI'en med falske referencer og få deres sider til at fremstå legitime. Tricket er enkelt. Opret en troværdig side. Få den til at ligne den rigtige butik. Lad så modellen opsnappe den og anbefale den.

Lewis Baxter, der leder svigteamet hos Storbritanniens National Trading Standards, advarer om, at en hjemmesides tilstedeværelse i et AI-svar ikke er et bevis på ægthed. Folk henvender sig til chatbots for hurtige indkøbsråd. Svindlere har tilpasset sig lige så hurtigt. At se et overbevisende link i et chatbot-svar kan få en køber til at springe de basale tjek over.

De falske butikssider beskrevet i rapporterne er ofte foruroligende polerede. De bruger domænenavne tæt på ægte mærker, tilføjer ord som onlineuk eller official ved siden af et genkendeligt navn og reklamerer med kraftige rabatter, nogle gange op til 80 procent, for at få købere til at handle uden at tænke. Mange af disse sider accepterer kun bankoverførsler, et andet advarselstegn.

Bekræft altid sælgeren direkte: søg efter butikken på navn, tjek den officielle side, og betal aldrig via bankoverførsel, medmindre du er sikker på, at sælgeren er legitim.

Hvad kan brugere gøre lige nu? Sænk farten. Læs URL'en grundigt. Hold øje med ekstra ord, mærkelige endelser og stavefejl. Foretræk kort eller betalingsmetoder, der tilbyder køberbeskyttelse. Hvis en side insisterer på bankoverførsel, betragtes det som et stærkt tegn på at gå væk. Når det er muligt, skriv detailhandlens navn i en søgemaskine eller gå der via et betroet bogmærke i stedet for at klikke på et link fra en chatbot.

• Tjek domænet nøje for ekstra ord eller ukendte endelser.
• Søg efter kontaktoplysninger og verificerbart socialt bevis.
• Undgå betalingsmuligheder, der kun accepterer bankoverførsel.
• Brug kreditkort eller betalingstjenester med køberbeskyttelse.

OpenAI siger, at de har fjernet identificerede bedrageriske sider fra modellens søgeresultater og tilbyder en måde for brugere at rapportere problematiske links. Hjælpsomt. Nødvendigt. Men ikke en fuld løsning. Modeller lærer fra store dele af nettet, og angribere behøver kun at lave få overbevisende sider for at forårsage skade.

I sidste ende er ansvaret delt. Techteams skal styrke modelpipelines og opdage forgiftning. Platforme skal forbedre linkkontrol. Og kunder skal behandle AI-forslag som udgangspunkter, ikke anbefalinger. Bevar nysgerrigheden. Hav forsigtighed tættere på.