Microsoft-sjef Satya Nadella har sluttet seg til teknologiledere som offentlig diskuterer hvordan sikkerheten rundt kunstig intelligens kan forbedres.

I et innlegg på plattformen X lørdag morgen skrev Nadella at tiden er inne for å «ta et skritt tilbake og vurdere arkitekturen for KI-tillit». Han mener den såkalte superintelligensen ikke kan behandles som en samling gjensidig innkapslede «svarte bokser», der anbefalinger, svar og handlinger bare blir godkjent eller avvist.

Nadella brukte «superintelligens» som en betegnelse på KI som er knyttet til Donald Trump-administrasjonen. Han argumenterte samtidig for at selve modellen må skilles fra systemet som koordinerer hvordan den arbeider.

Vil flytte kontrollen ut av modellen

Ifølge Nadella bør kontrollmekanismer og sikkerhetstiltak plasseres utenfor modellen. Han tok også til orde for at alle viktige handlinger modellen utfører, skal dokumenteres med manipulasjonssikre endringsspor som mennesker kan forstå.

En autorisert person må dessuten alltid kunne sette modellen på pause eller slå den av mens den utfører en oppgave. «Vi må anta at modellen er kompromittert, og begrense den fra første stund», skrev Nadella, som sammenlignet funksjonen med en nødbrems.

Flere varsler om tapt kontroll

Uttalelsene kommer samtidig som ledende KI-selskaper erkjenner stadig flere hendelser der de har opplevd at kontrollen over modellene er i ferd med å gå tapt. Nadellas innlegg følger også en plan for en mer forsiktig KI-utvikling som Anthropic-sjef Dario Amodei har offentliggjort.