Microsoft-sjef Satya Nadella har delt sitt syn på risikoen ved svært avanserte kunstig intelligens-modeller og hvordan de bør begrenses. I et innlegg på plattformen X argumenterer han for at samfunnet ikke lenger kan akseptere KI som et «nøstet sett med svarte bokser».

Med det mener Nadella systemer der mennesker enten godtar eller avviser anbefalinger og handlinger uten å forstå hvordan de har oppstått. Han etterlyser derfor mer gjennomsiktige løsninger, der modeller kan isoleres og overvåkes, og der aktiviteten etterlater seg «uforanderlige, menneskeforståelige bevis».

Vil ha sporbare og kontrollerbare systemer

En slik tilnærming skal gjøre det enklere å følge modellens beslutninger og handlinger. Nadella trekker også fram flere tiltak som allerede diskuteres i teknologibransjen: Hendelser må rapporteres tidlig, modellene bør gjennomgå uavhengige revisjoner, data må kunne kontrolleres, og selve systemene må kunne begrenses.

På ett punkt inntar Microsoft-sjefen en strengere linje. Han mener en modell bør anses som kompromittert fra det øyeblikket den tas i bruk, og at begrensningene må være på plass fra starten.

«Vi må anta at modellen er kompromittert, og begrense den fra starten. Tenk på det som en nødbrems. En autorisert person må alltid kunne stanse eller slå av modellen mens den utfører en oppgave. Mer avanserte modeller vil kreve mer avansert begrensningsteknologi, som vi må standardisere», skriver Nadella.

Innlegget ble publisert på X 10. oktober. Nadella omtaler samtidig KI som «superintelligens» gjennom hele teksten. Begrepet brukes i teknologibransjen om hypotetiske KI-systemer med svært omfattende evner.