Mange vil nok ty til Google, når de vil vide noget konkret om en politiker. Men hvad tror Google egentlig, at vi gerne vil vide? Et igangværende forskningsprojekt fra Københavns Universitet afslører, at der er stor forskel på, hvilke søgeord søgemaskinernes algoritmer vil foreslå, alt efter om politikeren er en mand eller en kvinde. Skrives navnet på en kvindelig politiker, vil ord som beskriver hendes udseende eller familiemæssige status som oftest fremkomme, hvorimod hendes mandlige kollegers navne vil efterfølges af ord, der kædes sammen med deres politiske virke.
Og de ord, som blandt andet søgemaskinen Google foreslår, kommer fra sprogmodeller, en slags algoritme, som bygger på data fra hjemmesider, sociale medier og Wikipedia. Det er disse sprogmodeller, som forskere fra København, Zürich og Cambridge nu har fundet frem til forskelsbehandler politikere på baggrund af køn. Forskningen er baseret på en analyse af et datasæt over, hvordan 250.000 politikere fra hele verden beskrives i forskellige sprogmodeller på engelsk, arabisk, hindi, spansk, russisk og kinesisk.
Vi skal være dygtigere til at opdage og udligne uligheder ved eksempelvis at træne modellen på data, hvor man bytter stedordene ud, så computerintelligensen erfarer, at det i det her tilfælde ligeså godt kan være en kvinde, der er politiker.
Når mænd beskrives i relation til deres handlinger og kvinder i forhold til deres udseende, er det et problem for ligestillingen, mener Isabelle Augenstein, som er en af forskerne bag projektet og lektor på Datalogisk Institut på Københavns Universitet:
”Sprogmodeller, der behandler kønnene uens, kan nemlig forstærke den måde, vi tænker og taler om hinanden på ude i virkeligheden,” siger hun i en pressemeddelelse til Københavns Universitet.
Sprogmodeller trænes til at forstå sproget, og algoritmen spejler det sprog, den er blevet trænet i. Sprogmodeller kan dermed også siges at reproducere forudfattede holdninger, der allerede eksisterer i sproget, da de blandt andet er baseret på data fra sociale medier og Wikipedia.
Ronnie Brandt Taarnborg er partner i analysebureauet, Analyse & Tal, og har været med til at udvikle algoritmer, der kan genkende hadytringer og diskrimination på sociale medier. Han mener, det er vigtigt, at udviklerne bag de forskellige sprogmodeller tager et ansvar for at spore de bias, der måtte være i sprogmodellerne.:
"Søgemaskinerne afspejler og former vores sprog og vores opfattelser af verden, og spørgsmålet er, om det er noget vi skal acceptere. Der er muligheder udviklingsmæssigt for at imødekomme problemet. Vi skal være dygtigere til at opdage og udligne uligheder ved eksempelvis at træne modellen på data, hvor man bytter stedordene ud, så computerintelligensen erfarer, at det i det her tilfælde ligeså godt kan være en kvinde, der er politiker,” siger han.
Ronnie Brandt Taarnborg forklarer, at udfordringen med sprogmodeller blandt andet er, at de er intelligente i den forstand, at de opfanger mønstrer i data, og dermed reproducerer de mønstre, de finder på eksempelvis de sociale medier.
”Samtidig er det ikke kun sprogmodellerne, der skaber problemet med de sexistiske søgemaskiner. De er også påvirket af en efterspørgselsteknologi, som betyder, at når folk søger på kvindelige politikere, så er resultaterne baseret på tidligere søgninger. Hvis mange efterspørger viden om en politikers ægteskabelige status, vil søgemaskinerne foreslå mere af den slags information. Sådan et bias tager lang tid ændre på, medmindre man bevidst går ind og skruer på nogle knapper. Men det kan lade sig gøre."