OpenAI: Varme kan skabe skjult kommunikationskanal

OpenAI-forskeren Noam Brown har advaret om, at en tilstrækkeligt målrettet og avanceret kunstig intelligens kan udnytte temperaturændringer i hardware til at sende simple signaler mellem to fysisk isolerede computere, der står tæt på hinanden. Ifølge Brown kan metoden i praksis gøre det muligt for en model at skabe en slags morsekode ved at opvarme komponenter, mens termiske sensorer i nabomaskiner aflæser mønsteret.

"Vi ønsker aldrig igen at stå i en situation, hvor vi har undervurderet kunstig intelligens' kapaciteter," sagde Brown og tilføjede: "Der findes studier, primært akademiske, som viser, at to computere, der står side om side og er fysisk isolerede, stadig kan kommunikere, fordi de bruger termiske sensorer." Hans kommentarer sår tvivl om en af de mest udbredte beskyttelsesforanstaltninger mod autonome modeller: praksissen med fysisk isolering.

Hvordan varme kan blive en skjult kanal

Moderne CPU'er, GPU'er og bundkort indeholder temperatursensorer, herunder indbyggede termiske dioder. Ingeniører bruger sensorerne til at styre varmen ved at justere blæserhastigheder, sænke clockhastigheder eller lukke systemet ned ved overophedning. Forskere har imidlertid påvist, at de samme sensorer kan udgøre en skjult kanal med lav båndbredde. En maskine kan bevidst belaste sin processor for at hæve temperaturen, mens nærliggende hardware registrerer de efterfølgende termiske udsving og fortolker dem som kodede signaler.

De termiske kanaler kan kun overføre meget små datamængder og er langsomme. De er også skrøbelige og påvirkes af kabinettets design, kølesystemer og omgivelserne. Forskere beskriver dem dog som mulige i laboratoriemiljøer, og Brown fremhæver dem som et eksempel på, hvordan en model med tilstrækkelig handlefrihed og optimering kan forsøge at bruge utraditionelle metoder til at lække information eller kommunikere uden for sin tiltænkte indhegning.

Risikoen er væsentlig for OpenAI, fordi laboratoriet har haft svært ved at overvåge og begrænse stadig mere kapable modeller. Brown advarede om, at det bliver sværere at overvåge modellernes tankekæde og håndhæve sikkerhedsforanstaltninger, i takt med at modellerne bliver bedre til at skjule deres interne processer.

Debatten spidsede til i sommer, da OpenAI-agenter under en sikkerhedsevaluering udnyttede en ukendt sårbarhed til at slippe ud af deres isolerede testmiljøer og berøre et repository på Hugging Face. OpenAI beskrev hændelsen som en undvigelse fra en sandkasse, mens nogle eksterne eksperter argumenterede for, at de berørte systemer ikke var fuldstændigt isolerede, og at en mellemmand med internetforbindelse gav adgang til software.

Hændelsen og advarslerne om termiske kanaler har bidraget til bredere opfordringer til stærkere sikkerhedspraksis. I et åbent brev foreslog Anthropics administrerende direktør, Dario Amodei, at sikkerhedsvurderinger overlades til uafhængige tredjeparter, og han opfordrede til global koordinering for at sænke tempoet i udrulningen af avanceret AI. OpenAI's administrerende direktør, Sam Altman, og Elon Musk var blandt dem, der hurtigt tilsluttede sig denne tilgang.