Når AI opfinder billeder: hallucinationer i billedkunst

Et enkelt tweet forvandlede et rutineeksperiment til et mærkeligt internetmysterium. En bruger på X skrev, at de havde bedt ChatGPTs billedværktøj om at "genskabe det vedhæftede foto", selvom der ikke var noget vedhæftet. Modellen tøvede ikke. Den opfandt et billede.

Resultatet? Mærkelige, urovækkende billeder, som om nogen havde rettet et kamera mod en feberdrøm. Ansigter forvrænges. Baggrunde folder sig ud til umulige teksturer. Brugere kaldte dem uhyggelige, nogle gange decideret mareridtsagtige. Korte forespørgsler. Vilde resultater.

Det, du ser, er et klassisk tilfælde af AI-hallucination, men i billedform. Når en model mangler det nødvendige input, kan den alligevel producere indhold ved at støtte sig til statistiske mønstre og interne kort over, hvordan billeder normalt ser ud. Systemet udfylder hullerne i stedet for at sige "jeg har ikke den fil". Resultatet kan være kreativt, eller det kan være forkert på måder, der føles uhyggelige.

Er dette en fejl i billedgenereringsprocessen, eller bare en underlig fortolkning af en tilladende forespørgsel? Det er svært at sige. Adfærden kan stamme fra, hvordan værktøjet parser instruktioner, som henviser til en vedhæftning, eller fra intern fallback-logik, der forsøger at være hjælpsom, når data mangler. Under alle omstændigheder fremhæver episoden et mere generelt problem: modeller, der prioriterer output frem for epistemisk tilbageholdenhed.

Folk har debatteret og delt eksempler online og opfordret til tydeligere sikkerhedsforanstaltninger. Udviklere kunne kræve eksplicitte tjek for manglende input eller få systemet til at stille opfølgende spørgsmål, når en nødvendig fil ikke er leveret. Små ændringer i håndteringen af forespørgsler ville forhindre modellen i at fabrikere billeder uden noget grundlag i virkeligheden.

Når en AI opfinder det, den ikke har, er fejlen ikke kun teknisk, det er et designvalg, vi kan rette op på.

Uanset om dette viser sig at være en rettelig fejl eller en påmindelse om grænserne for nutidens generative systemer, er samtalen nyttig. Hvem bestemmer, hvad en AI må opfinde? Og hvem retter det, når disse opfindelser kommer lidt for tæt på et digitalt mareridt?