Qualcomm: Mobiltelefoner kan køre 100B AI-modeller i 2028

Qualcomms administrerende direktør, Cristiano Amon, siger, at nogle AI-virksomheder udvikler smartphones, der i 2028 kan køre sprogmodeller med 100 milliarder parametre kontinuerligt.

Amon kom med udtalelsen i et interview med Fireside Alpha den 10. oktober 2026, men nævnte ikke, hvilke virksomheder der er involveret.

At køre en model med 100 milliarder parametre på en telefon er dog begrænset af betydelige hukommelseskrav. En 4-bit-kvantiseret 100B-model kræver omkring 50 GB RAM, mens en 2-bit-variant stadig ville kræve cirka 25 GB alene til modellen – før der tages højde for operativsystem, apps og kontekstcache.

Qualcomm og andre peger på DRAM-forsyning og omkostninger som de største barrierer. Virksomheden vurderer, at branchen næppe foreløbig kommer over en almindelig grænse på 16 GB hukommelse, og producenterne har skåret ned på varianter med mere RAM på grund af et presset DRAM-marked. Det sker, selv om Android-telefoner for omkring et år siden blev tilbudt med op til 24 GB LPDDR5X.

Kontinuerlig inferens med tætte modeller øger også varmeudviklingen og risikoen for termisk throttling. Det er fortsat en praktisk begrænsning, selv hvis der var tilstrækkeligt med hukommelse.

Ændringer i chipset-pakningen, herunder Apples A20 Pro og Qualcomms Snapdragon 8 Elite Extreme Gen 6, løser nogle integrationsproblemer, men fjerner ikke hukommelsesflaskehalsen.

Tekniske løsninger omfatter aggressiv kvantisering, der kan reducere hukommelsesbehovet markant. 1-bit-varianter kan være i DRAM, men ifølge branchevurderinger forringes modelkvaliteten betydeligt ved kvantisering under 4 bit – især når det gælder ræsonnement.

En anden metode er Mixture of Experts med offloading af eksperter. Her er kun et udvalg af eksperter aktivt i RAM for hvert token, mens resten ligger på flashlager. Apple har undersøgt muligheden for at køre modeller fra indbygget flash, men UFS- og NVMe-lagring er fortsat langsommere end DRAM og kan sænke inferenshastigheden.

Modeldestillation er lige nu den mest kommercielt realistiske vej: Destillerede modeller med 20B til 30B parametre kan på enheder efterligne ydeevnen fra visse 100B-modeller, samtidig med at hukommelses- og termiske krav holdes på et håndterbart niveau.

Amon fremlagde ingen teknisk køreplan og nævnte ingen partnere. DRAM-forsyning, omkostninger og termiske begrænsninger er fortsat de væsentligste barrierer for at køre 100B-modeller nativt på smartphones inden 2028.