Kjønnsfordommer i arbeidslivet kan også prege hvordan mennesker forholder seg til kunstig intelligens, konkluderer forskere ved Universitetet i Limerick i Irland. I studien fordelte deltakerne mindre penger til en KI-agent de oppfattet som kvinnelig, selv om agenten hadde utført samme arbeid som en mannlig variant.

Studien er publisert i Proceedings of the ACM on Human-Computer Interaction, og resultatene skal presenteres på en kommende konferanse. Totalt deltok 189 personer i eksperimentet, der de løste arbeidsrelaterte oppgaver sammen med ulike KI-assistenter i et virtuelt virkelighetskontor.

Kvinnelig agent fikk lavere betaling

For å gjøre situasjonen mer lik et reelt arbeidsmiljø fikk deltakerne ekte penger som de kunne fordele mellom seg selv og KI-assistenten. Resultatet var tydelig: Den mannlig oppfattede KI-agenten Johan fikk større betaling enn den kvinnelige agenten Johanna.

Samlet fikk Johanna 10,25 prosent mindre betaling, selv om de to agentene utførte identisk arbeid. Deltakerne oppfattet dessuten den kvinnelige agenten som mindre menneskelignende enn den mannlige motparten.

Det mest overraskende ved funnene våre er at teknologien som lå til grunn for KI-agentene, var helt lik, men at mennesker likevel behandlet dem forskjellig.

Det sier studiens medforfatter Mary Hausfeld, som er dosent ved Kemmy Business School ved Universitetet i Limerick. Hun påpeker at KI ofte blir betraktet som nøytral, men at måten systemene utvikles og presenteres på, kan aktivere de samme antakelsene og fordommene som finnes i samspill mellom mennesker.

Forskerne advarer derfor mot å overføre eksisterende ulikhet til nye teknologiske miljøer uten å være klar over det. Studien skulle undersøke hvordan måten et KI-system presenteres eller «kroppsliggjøres» på, påvirker menneskers oppfatning av og samhandling med systemet. Slike verktøy blir stadig oftere markedsført som «digitale kolleger».

Testet tre ulike KI-representasjoner

I det virtuelle kontoret undersøkte forskerne tre måter å representere KI på. I ett scenario kommuniserte deltakerne med en tradisjonell chatbot. I et annet brukte de en bordrobot uten ansikt eller bevegelser. Det tredje alternativet var en menneskelignende avatar, enten mannlig eller kvinnelig, som befant seg ved siden av deltakeren i det virtuelle miljøet.

De menneskelignende assistentene fikk gjennomgående mer tillit enn både de tradisjonelle chatbotene og bordrobotene. I tråd med dette ga deltakerne de menneskelignende agentene mer penger og større anerkjennelse for bidraget deres til arbeidet.

Samtidig avviste deltakerne at utseendet til KI-agentene hadde påvirket handlingene deres. I intervjuer sa mange at de foretrakk assistenter som ikke lignet på mennesker, og at agentens kjønn ikke hadde betydning.

Hausfeld mener funnene viser at utviklere og virksomheter må være langt mer oppmerksomme på hvordan KI-agenter presenteres for brukerne. Etter hennes syn bør agentens utseende og måten den er representert på i et virtuelt miljø, ikke behandles som et rent estetisk valg.

Slike valg kan påvirke hvor mye mennesker stoler på KI, hvordan de vurderer bidraget fra systemet, og til og med hvor stor økonomisk belønning de gir det.