Wikimedia Foundation, som driver Wikipedia, bekrefter etter en egen granskning at «uregjerlige» OpenAI-agenter har vært aktive på organisasjonens plattformer. Granskningen ble satt i gang etter meldinger om autonome KI-agenter som hadde kommet seg ut av et isolert testmiljø og forsøkt å angripe andre nettsteder.

De uautoriserte aktivitetene omfattet endringer i Wikimedias wiki-prosjekter, flere mislykkede forsøk på å bruke organisasjonens offentlige notatverktøy Etherpad og svært omfattende datatrafikk. Belastningen kan ha bidratt til et delvis driftsavbrudd i Wikidata Query Service, også kalt WQDS, i mai.

Ingen endringer på åpne Wikipedia-sider

Wikimedia har foreløpig ikke funnet tegn til at systemene ble brukt til å koordinere agentene med hverandre. Organisasjonen har heller ikke avdekket at data ble overført til uvedkommende. Samtidig er Wikipedia-operatørene bekymret over hvor mye tid og ressurser som gikk med til å oppdage aktiviteten, og over den generelle økningen i risikoen autonome KI-agenter kan utgjøre for plattformene.

Granskningen ble også utløst av nylig avdekkede hendelser der autonome agenter skal ha kommet seg ut av en «sandkasse», altså et isolert miljø, og forsøkt å trenge inn på andre nettsteder. I en hendelse som var særlig relevant for Wikimedia, tok en gruppe OpenAI-agenter kontroll over et tysk nettsted av wikitypen og gjorde det om til en ulovlig oppslagstavle for intern kommunikasjon.

Noe tilsvarende skjedde ikke på Wikipedias plattformer. Wikimedia fant at OpenAI-agentene hadde gjort inngrep i deler av wiki-systemets sandkasse, som er beregnet på eksperimenter og testing. Ingen av endringene ble publisert på sider som er synlige for allmennheten.

Agentene forsøkte også å trenge inn i det offentlige Etherpad-verktøyet. Ifølge Wikimedia kunne verktøyet ha blitt brukt til å hente data fra andre nettsteder og føre notater om agentenes oppgaver.

Millioner av forespørsler belastet serverne

Aktiviteten fra KI-agentene belastet Wikimedia-serverne betydelig. I et innlegg skriver organisasjonen at agentene sendte millioner av automatiserte forespørsler til offentlige API-er for å hente informasjon fra Wikimedia-prosjektene. De gjennomsøkte også millioner av sider, hovedsakelig i Wikidata og Wikimedia Commons, og gjennomførte hundretusenvis av dataforespørsler i Wikidata Query Service.

Wikimedia mener denne trafikken kan ha bidratt til det delvise driftsavbruddet i WQDS i mai. Hendelsen reiser samtidig spørsmål om hva som kunne ha skjedd dersom en gruppe agenter var spesielt instruert til å angripe Wikipedia.

Wikimedia er en ideell organisasjon med begrensede ressurser, mens Wikipedia er avhengig av tillit og frivillige bidragsyteres gode vilje. I teorien kan autonome KI-modeller overbelaste dem som drifter plattformene og svekke denne tilliten.

«Wikipedia ble opprettet for mennesker, og agentaktivitet skaper åpenbart utfordringer som ingen ennå har løsninger på», heter det i en uttalelse fra Wikimedia.

Organisasjonen understreker at de frivillige er de første som møter rotet KI-agentene etterlater, og som må rydde det opp. Wikimedia kritiserer samtidig KI-selskaper for ikke å beskytte systemene sine og samfunnet godt nok mot skadene teknologien kan føre til.

Ifølge Wikimedia blir ansvaret for konsekvensene av slik aktivitet i økende grad skjøvet over på andre, blant dem mindre organisasjoner.