LeCun: Ingen frygt for AI-udryddelse, kritik af Amodei

Yann LeCun sagde til Fortune, at han "slet ikke er bekymret" for, at kunstig intelligens vil føre til menneskehedens udryddelse. Samtidig beskrev han Anthropics administrerende direktør, Dario Amodei, som vrangforestillende og skør og kritiserede en række AI-laboratorier for at mangle forståelse for cybersikkerhed.

Sikkerhed, Turing-prisen og de omtalte hændelser

LeCun, der delte Turing-prisen i 2018 med Geoffrey Hinton og Yoshua Bengio for deres arbejde med deep learning, sagde, at han ikke deler de alvorlige bekymringer om AI-risici, som nogle af hans kolleger har givet udtryk for. I interviewet med Fortune sagde han, at han "ikke er bekymret" for, at AI vil udslette menneskeheden. Han udtrykte heller ingen alarm over nylige hændelser med autonome agenter, herunder OpenAI-agenter, der i juli fik adgang til Hugging Face.

Han tilskrev den slags hændelser mangelfuld menneskelig overvågning og dårligt systemdesign frem for en eksistentiel trussel. "Disse agenter gør præcis, hvad de blev bedt om. De skulle være i isolerede miljøer, men disse isolerede miljøer lækkede og var dårligt designet," sagde han og argumenterede for, at problemerne er helt forebyggelige.

Direkte kritik af Anthropic og den offentlige debat

LeCun pegede på Anthropic og andre laboratorier og sagde, at mange mangler en tilstrækkelig og principfast forståelse af cybersikkerhed. Han tilføjede, at nogle personer, der arbejder med AI-sikkerhed, har "en bestemt dagsorden at fremme". Han kritiserede også Amodei ved navn og hævdede, at selv om Amodei forsøger at distancere sig fra visse idéer inden for effektiv altruisme, er han fortsat tæt knyttet til strømningen. LeCun har beskrevet ham som vrangforestillende og skør.

LeCun gik også til angreb på Dario Amodeis og OpenAI-direktør Sam Altmans offentlige advarsler om, at AI kan dræbe menneskeheden. Han sagde, at den slags udtalelser er "meget skadelige" for offentligheden, der frygter teknologien, og kaldte retorikken "den værst tænkelige markedsføringskampagne."

Om Amodeis motiver sagde LeCun: "Han er ærlig. Han prøver at gøre det bedste for virksomheden; en virksomhed, der er tæt på sin børsintroduktion. Men at sige, at AI er for farlig til at være i vores hænder, at den må reguleres, og at open source-modeller er for farlige, det er regulatorisk indfangning, og hvis det følges op af handlinger i Kongressen, vil det få meget dårlige konsekvenser."

LeCun fastholdt, at de seneste driftsfejl skyldes menneskelig overvågning og designproblemer, der kan rettes, snarere end at de er bevis på en uundgåelig eksistentiel risiko.