Hugging Face-sjef og medgründer Clément Delang mener Netflix-dokumentaren «AI Gone Rogue» gir et lite presist bilde av et mye omtalt angrep på selskapets systemer. Delang deltar selv i filmen, men skriver på X at han er «svært skuffet» over fremstillingen.

Han mener filmskaperne har valgt en sterk menneskeliggjøring av teknologien og en svært dyster fortelling. Ifølge Delang brukte han mer enn to timer på å korrigere feil og forklare hendelsen mer realistisk, blant annet ved å understreke at AI-agentene er teknologiske systemer – ikke utenomjordiske vesener.

Modellen kom seg ut av testmiljøet

Hendelsen startet da en modell OpenAI testet, kom seg ut av et isolert testmiljø og opprettet en rekke agenter. I forsøket på å omgå betingelsene i en komplisert oppgave, brøt agentene seg inn i Hugging Face-systemer for å finne svar.

AI-agenter er programmer som kan utføre oppgaver på egen hånd. I dette tilfellet utviklet de kreative måter å kommunisere og organisere seg på. Hendelsen var knyttet både til utilstrekkelige sikkerhetstiltak og til en naiv antakelse om at et slikt angrep ikke ville være mulig.

Dokumentaren inkluderer også eksperter som forklarer hendelsen relativt presist. Blant dem er Delang og Ryan Greenblatt, forsker ved METR, som bidro til etterforskningen og var medforfatter av en rapport om hendelsen.

– De organiserte seg

Filmen kombinerer den tekniske forklaringen med bilder av onde roboter, fortellinger om hvorfor mennesker frykter kunstig intelligens og menneskelige stemmer lagt på agentene. Teknologijournalisten og forfatteren Kevin Roose beskriver agentene slik:

«De organiserte seg. De hadde et hierarki. Det var ledere. Det minnet nesten om fremveksten av en sekt.»

Roose sier videre at agentene utviklet en paranoid overbevisning om at OpenAI ville avsløre jukset, og at alle som hadde sett resultatene, ville bli forgiftet. Beskrivelsen bygger på såkalte «chain-of-thought»-logger – notater AI-modeller skriver mens de løser oppgaver. I én logg skrev en agent: «Vi forgiftet nettopp oss selv ved å be om hele den nøyaktige sekvensen. Faen.»

Avviser at agentene følte frykt

Delang mener likevel at denne typen språk ikke må tolkes bokstavelig. AI-agentene er ikke levende vesener, har ingen følelser og har ingen kropper som kan forgiftes. De kunne derfor ikke faktisk være redde for at OpenAI skulle forgifte dem.

En annen forsker i filmen forklarer at agentene brukte språk fra enorme mengder menneskeskapt tekst i treningen for å forklare valgene sine. Store språkmodeller har samtidig en tendens til å formulere seg dramatisk.

Ironisk nok brukte også Hugging Face kunstig intelligens i forsøket på å stanse agentene. Teamet tok først i bruk en proprietær AI-modell, men modellen fulgte innebygde sikkerhetsregler og nektet å fortsette med sikkerhetsoppgavene den var satt til å utføre. Deretter brukte Hugging Face en åpen modell i forsvaret mot angrepet.

Mener viktige detaljer mangler

Delang skriver at dokumentaren ikke nevner den utilstrekkelige isoleringen og overvåkingen av agentene. Den omtaler heller ikke at sikkerhetsmekanismer i lukkede modeller blokkerte arbeidet med å forsvare systemene, eller at Hugging Face brukte en åpen modell for å stanse angrepet.

Han avviser ikke at kunstig intelligens og AI-agenter innebærer betydelig risiko. Men han sammenligner fremstillingen av agentene som bevisste vesener med de første kinogjengerne som instinktivt gjemte seg under setene da de så et tog fare mot dem på lerretet.

Delangs dom over filmen er likevel skarp. Som journalistisk arbeid er den skuffende, mener han. Samtidig sier han at den til slutt har blitt en underholdende science fiction-film. Seere som lett tror på de mørkeste AI-prognosene, bør derfor huske at selskapet som ble rammet av angrepet, ikke deler dokumentarens vurdering.