Utan kvinner i IT-bransjen, vil teknologi diskriminere

Utan kvinner i IT-bransjen, vil teknologi diskriminere

Kva du finn når du googlar, avheng av kven som har utvikla algoritmane. Amerikansk forskar fryktar ei forsterking av sexisme og rasisme, viss ikkje IT-bransjen arbeider for mangfald.
– For å sikre meir inkluderande digitale medium og kultur, treng vi fleire kvinner og minoritetsgrupper blant utviklarar og designarar, blant dei som skaper innhald og som avgjer kva slags teknologi som skal kjøpast inn, seier Jill Rettberg. Illustrasjonsbilde: iStockphoto

Menneska påverkar no utviklinga av jorda raskare enn naturen. Derfor er humaniora viktigare enn nokonsinne, påstår gjerne humanistane.

Korleis teknologien spelar inn i dette, og korleis digitale kulturar oppstår, har derfor blitt viktige forskingsfelt. Får teknologien følger for våre oppfatningar av det etiske, det kulturelle og det estetiske?

Ein av forskarar som har tatt for seg dette temaet er førsteamanuensis Elizabeth Losh, som leiar Gender, Sexuality, and Women’s Studies ved William & Mary universitetet i USA.

Denne våren var Losh i Bergen saman med Aristea Fotopoulou, gjesteforskar ved Universitetet i Bergen, for å snakke om feministiske digitale metodar.

Eit døme på slike metodar kan vere å bygge digitale arkiv som tar føre seg ukjende kvinner sine prestasjonar. Motivasjonen bak dette arbeidet er enkel: Digitaliseringa av det kollektive minnet – alt det som blir overført frå bøker og papir – må også inkludere kvinnene og minoritetane.

Usynleggjering

– Aristea Fotopoulou og eg sjølv har overlappande forskingsinteresser på feministiske datastudiar, og vi deler uroa for at selskap som spesialiserer seg på sosiale medium og internettsøk bruker algoritmar som skjuler informasjon i digitale arkiv. Eg er også uroa over kva og kven som blir gjort usynlege, seier Losh.


Elizabeth Losh er førsteamanuensis i American Studies and English ved William & Mary universitetet i USA. Foto: Privat

Frykta er at digitale kulturar vil føre sexisme og rasisme vidare, men også at digital humaniora som fag held fram i patriarkalske retningar. Til dømes kan bruk av datasett som ekskluderer kvinner og minoritetar, eller som baserer seg på stereotypiar, igjen auke bruken av stereotypiar.

XML, eit universelt dataspråk og verktøy for koding av dokument, nytta tidlegare talverdien 1 for mann og 2 for kvinne, noko som kanskje stadfestar Simone de Beauvoir sin påstand om at kvinna blir sett på som det andre kjønn. Feministiske digitale metodar har såleis oppstått som ein kritikk mot at humaniora og samfunnsvitskapen er ukritiske til eigne digitale metodar.

Kulturell bagasje

Sjølv om humanistisk forsking via datamaskinar har eksistert lenge, er digital humaniora eit nokså nytt forskingsfelt.

Digital humaniora går ut på å analysere digitale data innanfor humaniora, det vil seie, studere digitale praksisar, utvikle digitale metodar for humanistisk forsking, eller å nytte dataprogram for å søke i store mengder med tekst. I dagens informasjonssamfunn er dette kanskje eit stadig meir relevant felt, og utdanningsprogram i digital kultur har såleis poppa opp fleire stadar i landet dei siste åra.

XML, eit universelt dataspråk og verktøy for koding av dokument, nytta tidlegare talverdien 1 for mann og 2 for kvinne, noko som kanskje stadfestar Simone de Beauvoir sin påstand om at kvinna blir sett på som det andre kjønn.

Den amerikanske akademikaren og forfattaren Jacqueline Wernimont har skrive i den nye boka Numbered Lives: Life and Death in Quantum Media at måten den angloamerikanske kulturen har måla og talt liv og død på, er basert på ei kjønna og rasialisert kategoriseringstenking. Med andre ord: Når vi registrerer data, gjer vi det med den kulturelle bagasjen vi har med oss.

Held fram med sexisme og rasisme

Elizabeth Losh fortel at system som rangerer, grupperer og filtrerer data ofte nyttar maskinlæring som trekker slutningar basert på datatrening. Med maskinlæring kan det bli endå vanskelegare å finne ut korleis datakodar utøver desse slutningane.

Jill Rettberg, professor i digital kultur ved Universitetet i Bergen, fortel at nokre datasett bringar fordommar vidare, og særleg maskinlæringsalgoritmar som fører konklusjonane vidare til maskinlæringa.

For å sikre meir inkluderande digitale medium og kultur, treng vi fleire kvinner og minoritetsgrupper blant utviklarar og designarar.

– Til dømes er algoritmane mest trente til å kjenne att andleta til kvite menn. Det er eit problem dersom politiet nyttar andletsattkjenning for å finne ein mistenkt, og algoritmen oftare vil ta feil med kvinner og med personar som har mørk hud, seier Rettberg.

– For å sikre meir inkluderande digitale medium og kultur, treng vi fleire kvinner og minoritetsgrupper blant utviklarar og designarar, blant dei som skaper innhald og som avgjer kva slags teknologi som skal kjøpast inn. Datasystem definerer meir og meir av vår kvardag og vårt samfunn, og utan mangfald blant utviklarar har vi sett at uplanlagt diskriminering ofte blir integrert i systema, seier Rettberg.

Feministisk teori om data

I Bergen snakka Elizabeth Losh først og fremst om kva feministisk digital humaniora er.


Jill Rettberg er professor i digital kultur ved Universitetet i Bergen. Foto: Eivind Senneset

– Feministisk digital humaniora dreier seg ikkje berre om digitale prosjekt om kvinner eller av kvinner; det handlar om å nytte feministisk teori til dei digitale arkiva som fortel historier om fortida. Eller der sosiale medium fortel historier om notida.

Mange feministiske digitale humanistar er interesserte i digitalt arbeid; kven som arbeider, kven som får æra for det, og korleis arbeidet blir kompensert og verdsett. På grunn av den store mengda litteratur om husarbeid, er dei også interesserte i kvardagsliv, opplevingar, kjensler og kropp, og kva dette betyr i eit rasjonalt, teknisk system, fortel Losh.

Polarisering i digital kultur

Sjølv nyttar ho relativt få data i forskinga si. Ho forskar på Twitter-postar frå Donald Trump, og dei lekne e-postane til Hillary Clinton, i tillegg til feminisme, media og innovasjon. Ho er også opptatt av falske nyhende og digital trakassering.

Kan sosiale medium polarisere grupper, og dermed forsterke både feministiske og antifeministiske grupperinger?

– Dei som forskar på internett har visst i mange år at polarisering og filterbobler forårsakar problem på ulike plattformer. Du kan ikkje stole på at teknologibedrifter regulerer seg sjølve, eller at dei lærer opp brukarane sine til praksis som er til nytte for samfunnet, seier Losh.

Det handlar om å nytte feministisk teori til dei digitale arkiva som fortel historier om fortida.

– Teknologiselskap tener pengar på målbevisst marknadsføring og informasjon som dei sel til tredjepartar. Så falske nyhende er lønsamt, og det er tidkrevjande å filtrere ut hatefullt innhald. Ekstreme hatgrupper auker både i USA og i Noreg.

Jill Rettberg meiner at det ikkje berre er sosiale medium som polariserer.

– Såkalla tilrådingsalgoritmar, som for eksempel dei i YouTube, rådar deg til å klikke på stadig meir ekstreme videoar, seier ho.

Utfordrar etablerte historier

I tillegg til at Losh til hausten gir ut bok om hashtags, og vurderer påstanden om at Chris Messina fann opp sjølve hashtagen, grev ho i historia etter folk som har hatt betydning for teknologien. Det er ikkje dei store namna som opptar henne, men dei som verkar som små karakterar i teknologien si historie.

– Mina Rees er eit slikt døme, som hjelpte med å skape infrastrukturen til datasenter i USA etter andre verdskrigen. Dette gjorde det mogleg å nytte data på mange nye måtar, seier ho.

Losh vedgår at ho er glad i å finne feil ved menn som er roste opp som teknologiske pionerar.

– Korleis sexismen og rasismen deira spelte ei rolle, opptar meg som forskar. I mi første bok fann eg til dømes noko på ingeniøren og oppfinnaren Vannevar Bush, om korleis han ekskluderte kvinner frå arbeidsplassen på ulike, horrible måtar.

Må bygge arkiv på nye måtar

Poenget med feministisk digital humaniora, som Losh også er inne på i antologien Bodies of Information: Intersectional Feminism and Digital Humanities, er å få folk til å utvide fantasien når dei tenker på digital humaniora.

– Når folk begynte å lage arkiv for å dokumentere kongelege hus, kongerike og regime for koloniale makter, blei det tatt avgjerder for kva som var verdt å halde på; korleis det skulle stemplast, og korleis organisere ulike samlingar, seier Losh, og held fram:

– Moderne land har ofte tydd til dei same teknikkane, særleg når det gjeld verdsetting av arbeid og etablering av kva som utgjer kriminell åtferd. Når arkiv blir digitaliserte, arver dei desse gamle, forutinntatte systema. I tillegg blir nye system «biased», ved at læringsdata blir vald ut av kvite, mannlege ingeniørar, eller algoritmar blir bortgøymde som yrkesløyndomar.

Større teknologisk kompetanse er viktig, men det er også humanistisk forståing av fortid og av andre kulturar.

 Kva kan vi gjere for å unngå at dette skjer?

– Større teknologisk kompetanse er viktig, men det er også humanistisk forståing av fortid og av andre kulturar. Eg trur det er naudsynt med politisk deltaking og robuste prosessar, i staden for at teknologiselskapa tek avgjerd.

 Men dersom dei fleste som jobbar med data er menn, kvifor skal vi trakte etter kjønnsnøytralitet?

– Eg er ikkje sikker på om dei fleste som jobbar med data er menn, sidan svært mange av dei som arbeider med arkiv, digitalisering og dataoppføring, er kvinner. Desse formene for feminisert arbeid er ofte usynleg, men viktig for digital kultur, seier Losh.

Les også: Intelligente roboter kan forsterke kjønnsnormer