Bill Gates: Krav om AI-sikkerhed og uafhængigt tilsyn

Microsoft-medstifter Bill Gates sagde i NBC News' Meet the Press, at det er "fuldstændig uansvarligt" ikke at kræve sikkerhedsforanstaltninger og overvågning af AI-systemer. Han advarede samtidig om, at den mest presserende trussel er ondsindede aktører, der bruger AI. Gates gav også udtryk for støtte til regulering og vurderinger foretaget af tredjeparter.

Krav om sikkerhedsforanstaltninger og tilsyn

I interviewet sagde Gates: "Det er fuldstændig uansvarligt ikke at kræve, at alle AI-systemer har disse sikkerhedsforanstaltninger og muligheder for overvågning." Han argumenterede for, at politimyndigheder og folkevalgte bør indgå i drøftelserne om, hvilke sikkerhedsforanstaltninger og overvågningsmekanismer AI-virksomheder bør indbygge. Gates sagde, at det vil pålægge branchen en vis ekstra byrde at inddrage tilsynsmyndigheder i samtalen, men at det ikke vil medføre en "dramatisk opbremsning af det, de laver."

Forslag om kill switch og truslen fra ondsindede aktører

Californiens guvernør Gavin Newsom har blandt andre tiltag foreslået en såkaldt kill switch for at imødegå den hurtige AI-udvikling. Da Gates blev spurgt ind til tilgangen, sagde han: "Jeg vil aldrig sige, at jeg er imod en kill switch," men tilføjede, at en sådan mekanisme ikke vil håndtere den mere umiddelbare risiko. Han understregede, at den primære kortsigtede bekymring er "mennesker med onde hensigter, der bruger AI." Gates advarede: "Der har aldrig været et våben så magtfuldt som kombinationen af mennesker med onde hensigter, der bruger de nyeste AI-værktøjer," og nævnte specifikt risici som bioterrorisme og omfattende økonomisk svindel muliggjort af AI.

Tredjepartsvurdering og de seneste bevægelser i branchen

Bemærkningerne falder i en periode, hvor flere topchefer i AI-virksomheder har givet udtryk for støtte til at sænke udviklingstempoet. I en separat udvikling indgik Anthropic for nylig en aftale med Accenture om at lade virksomheden fungere som tredjepartsvurderer af Anthropics nyeste AI-modeller. Det er et skridt, der ligger i tråd med Gates' opfordring til ekstern overvågning og tilsyn.