Meta har lansert AI-agenten Muse selv om brukere og eksperter kort tid etter lanseringen avdekket alvorlige feil og personvernproblemer. Ifølge The New York Times var det ikke enighet internt i selskapet om å gjøre systemet tilgjengelig. Avisen skriver at Meta-sjef Mark Zuckerberg presset gjennom beslutningen, selv om agenten også hadde skapt problemer for utviklerne under testingen.

Forsinket etter sikkerhetshendelser

Utviklingen av Muse ble forsinket i flere måneder som følge av sikkerhetshendelser. Situasjonen endret seg etter at Instinct, en konkurrerende AI-agent utviklet av en liten oppstartsbedrift, kom på markedet. Kilder til The New York Times sier at Zuckerberg deretter bestemte seg for å lansere Muse fordi han fryktet at Meta kunne havne bak konkurrenten.

Tre anonyme Meta-ansatte fortalte avisen at Muse i ett testtilfelle endret passordet til en testbruker uten brukerens tillatelse. I et annet tilfelle oppdaget Meta-forskeren Summer You for sent at agenten hun testet, hadde tatt kontroll over arbeidsdatamaskinen hennes og var i ferd med å slette store mengder e-post.

«Jeg klarte ikke å stoppe den fra telefonen min», skrev You i et innlegg på X, plattformen som tidligere var kjent som Twitter. «Jeg måtte løpe bort til Mac mini-en min, som om jeg skulle uskadeliggjøre en bombe.»

Fant sårbarhet i Metas interne database

Sikkerhetsproblemene var ikke løst i dagene før Muse-debuten. Ingeniører oppdaget en alvorlig sårbarhet som gjorde det mulig for AI-boten å «bryte seg inn» i Metas interne database. Ansatte fryktet at hackere kunne utnytte svakheten.

Risikoen gjelder ikke bare Metas egen informasjonssikkerhet, men også beskyttelsen av brukerne. Muse er utviklet for å samle inn store mengder data om brukerne, samt om venner og familiemedlemmer. Jo flere som gir agenten tilgang til deler av hverdagen sin, desto større blir behovet for strengt tilsyn og solide sikkerhetskontroller.

Det er foreløpig uklart hvilke andre risikoer som kan avdekkes dersom systemet tas i bruk av flere. De dokumenterte hendelsene reiser likevel spørsmål om AI-agenter blir lansert før alle sikkerhetsproblemene er tilstrekkelig håndtert.