Hvorfor sprogmodeller ikke kan erstatte menneskelig indsigt

Forestil dig Albert Einstein alene med et tankeeksperiment. Han forestiller sig selv i en forseglet elevator, frit faldende gennem rummet, og fra det stille mentale billede udleder han de ligninger, der omskriver fysikken. Det øjeblik, ren intuition, sanselig forestillingsevne, et spring med næsten ingen data, er den slags kreative spring, som nutidens sprogmodeller har svært ved at efterligne.

Hvorfor et hav af tekst ikke er det samme som en oplevet verden

DeepMind-forskeren Tom Zahavy formulerede det klart i en nylig analyse med titlen 'sprogmodeller kan ikke springe'. Hans argument opdeler tænkning i tre tilstande: induktion, deduktion og hypotesegenerering. Moderne modeller mestrer den første. De komprimerer bjerge af mønstre og kan forudsige næste sætning med slående præcision. Avancerede systemer håndterer også deduktion rimeligt; automatiserede ræsonnementværktøjer, inklusive projekter som AlphaProof, viser, at maskiner kan følge logiske kæder, når reglerne er givet.

Men når det kommer til hypotesegenerering, selve handlingen at forestille sig en ny ramme ud fra næsten ingen empirisk input, snubler maskinerne. Hvorfor? Fordi de mangler en krop i verden og mangler den sanselige intuition, som mennesker bruger til at skabe kausale forbindelser. Man kan ikke udlede Einsteins oprindelige forudsætninger udelukkende ved at analysere eksisterende tekster. Hans indsigt opstod gennem kropslige metaforer og sanselige tankeeksperimenter, ikke gennem statistisk mønstersammenligning på tværs af litteraturen.

Nogle tænkere, som Jürgen Schmidhuber, har tidligere betragtet videnskabelig opdagelse som en ekstrem form for datakompression. DeepMind udfordrer denne opfattelse. Artiklen peger på, hvordan revolutionerende teorier ofte opstår i datafattige kontekster, afhængige af kontrafaktiske scenarier og livlig, fantasifuld syntese. Sprogmodeller, trænet på retrospektive mønstre, opfinder sjældent nye ontologier, der omrammer, hvordan verden forstås.

Der er praktiske konsekvenser. Nutidens AI-kode- og automatiserede opdagelsesværktøjer forbliver begrænset af foruddefinerede rammer. De kan optimere inden for en ramme. De har svært ved at omdefinere selve rammen. Og ingen mængde ekstra beregningskraft, større datacentre eller tættere træning vil automatisk give den slags kausale intuition, der understøtter radikale videnskabelige spring.

Hvad betyder det så for forskning og industri? Det ændrer forventningerne. Sprogmodeller er stærke samarbejdspartnere til mønster-tunge opgaver, udkast, hypotese-forfining og udforskning af permutationer. De supplerer, snarere end erstatter, det menneskelige gnist, der opfinder spørgsmålene og de konceptuelle værktøjer. Med andre ord: fremragende til at skabe understøttende strukturer. Endnu ikke parate til at iværksætte revolutioner.

Beregningsmæssig skala kan ikke erstatte kropsliggjort indsigt, menneskelig fantasi står stadig for springet.

Der er en åben vej frem. Hybridtilgange, der knytter modeller til sensorer, eksperimenter og interaktive miljøer, kan mindske kløften. Men indtil maskiner opnår former for situationsbestemt forståelse og kausal intuition ud over tekst, vil de mest dristige videnskabelige ideer forblive forbeholdt menneskesindet.