TARINAT UUSIKSI! Tekoälyn sukupuolittuminen ylläpitää vahingollisia stereotypioita naisten asemasta

Tänä vuonna kansainvälinen naistenpäivä muistuttaa meitä digitaalisen tasa-arvon kysymyksistä. Digitaalisessa epätasa-arvossa ei ole kyse pelkästään siitä, että naisia tai naisoletettuja työskentelee teknologia-alalla huomattavasti miehiä vähemmän. YK:n tasa-arvojärjestö UN Womenin mukaan digitaalisessa siirtymässä on nähtävissä neljä keskeistä haastetta: 1. Digitaidoissa ja digitaalisen teknologian saatavuudessa on sukupuolikuilu, 2. Teknologia ja innovaatiot eivät vastaa tasapuolisesti naisten ja tyttöjen tarpeisiin, 3. Teknologian ja innovaatioiden parissa työskentelee ja opiskelee liian vähän naisia, 4. Verkkoväkivalta ja syrjintä on sukupuolittunutta. Lisäksi naisten osuus tiedettä ja teknologiaa koskevassa päätöksenteossa on edelleen liian pieni.

Tiesitkö, että vuonna 1815 syntynyttä Augusta Ada Byronia (myöh. Lovelace) pidetään maailman ensimmäisenä tietokoneohjelmoijana? Ei se mitään, ei kovin moni muukaan sitä tiedä tai muista, sillä Byronin osuudesta on lähes vaiettu digitaalisen siirtymän tarinassa.

Digiteknologian kehittyminen heijastaa naisten epätasa-arvoista asemaa yhteiskunnassa kulttuurisen kuvastomme kautta. Kansainvälisen televiestintäliiton  (ITU) raportit osoittavat, että naiset kokevat digitaalista eriarvoisuutta miehiä enemmän esimerkiksi internetin käytön ja sen tuottamien vaikutusten osalta. On paradoksaalista, että samalla, kun otetaan ensi askeleita naisten osallisuuden lisäämiseksi uusien teknologioiden avulla (ks. esim. Plan Internationalin rakentamat digitaaliset  etäoppimiskeskukset kaukana asuville tytöille, sekä UN Women:n ”Buy from women platform”), ilmaantuu uudenlaisia esteitä digiteknologian turvallisen käytön tielle.

Tekoäly vahvistaa tai haastaa eriarvoisuutta

Tekoälykehitys on yksi kestävää digitaalista siirtymää haastava tekijä. Samalla kun tekoälysovellukset lisäävät sujuvuutta arjessa, ne voivat lisätä sukupuolten välistä epätasa-arvoa ja olla merkittävä syrjintää edistävä tekijä. Miksi? Muun muassa siksi, että kehitystyötä tehdään toistaiseksi laajalti miesten näkökulmasta ja miesten ehdoilla. Maailman talousfoorumin vuoden 2020 raportin mukaan naisten osuus datan ja tekoälyn työtehtävistä on vain 26 prosenttia. Vastaavasti Stanford Institute for Human-Centered AI:n vuoden 2021 Artificial Intelligence Index raportissatodettiin, että naisten osuus tekoälyyn keskittyvissä tiedekunnissa on maailmanlaajuisesti vain 16 prosenttia.

Vinoutuneen aineiston pohjalta toimiva algoritmi toistaa vinouman ja pahimmillaan vahvistaa sitä.

Sukupuolittuneet valtarakenteet voivat vaikuttaa tekoälysovellusten ja algoritmien kehitykseen. Tekoäly oppii vain siitä datasta, mitä sille syötetään. Tämän lisäksi epätasa-arvon erilaiset muodot voivat vaikuttaa toisiinsa ja jopa pahentaa toistensa vaikutusta. Tämä ns. intersektionaalisuus näkyy käytännössä esimerkiksi siten, että sama henkilö kokee syrjintää useasta eri syystä. Syrjinnän kokemukset voivat kasaantua yhtä aikaa esimerkiksi sukupuolen ja etnisen taustan pohjalta.

Unesco avasi toissa vuonna keskustelun siitä, miten sukupuoleen liittyvät ennakkoluulot voidaan poistaa tekoälyn alalla. Unescon raportissa selitetään, että vinoutuneet käsitykset juontavat juurensa esimerkiksi sukupuolten välisestä epätasapainosta digitaalisten taitojen koulutuksessa ja sen myötä tekoälyä kehittävien yritysten kehitystiimeissä. Usein yritysten johtoportaissa ja hallituksissakin on vinoutunut sukupuolirakenne.

Tekoälykehitystä tekevien tiimien diversiteetin lisääminen olisi oleellista jo siksi, että monimuotoiset tiimit ovat tutkitusti luovampia ja innovatiivisempia, ja tuottavat parempia tuloksia. Pelkkä diversiteetin nostaminen tekoälykehitystiimeissä ei kuitenkaan riitä, vaan tasa-arvon täytyy näkyä myös tutkimus-, kehitys- ja innovaatiosisällöissä sekä lopputuotteissa.

Onko algoritmeihin perustuva data sukupuolittunutta?

Esimerkkejä löytyy. Gendered Innovations 2 raportin mukaan keskusteluagenttien, kuten chatbottien, käyttämät algoritmit eivät aina tunnista käyttäjän sukupuolta siitä syystä, että puheentunnistusohjelma ei ymmärrä puhujaa, jonka äänenkorkeus on erilainen kuin keskivertomiehen äänenkorkeus. Tämä voi johtaa puolueelliseen keskusteluun, jossa käyttäjiä oletusarvoisesti kutsutaan miehiksi, tai vähemmistöryhmien käyttämää kieltä jopa suodatetaan pois vihapuheena.

Kasvojentunnistuksen tarkkuus esimerkiksi passintarkastusautomaateissa nojaa puolestaan kuviin ja videoihin, joita käytetään teknologian kouluttamiseen. On tutkittu, että kasvojentunnistusteknologiat toimivat paremmin miehillä kuin naisilla. Kun dataan lisätään esimerkiksi etninen tausta (ihon väri) tai ikä, todennäköisyys virhetulkinnoille lisääntyy entisestään. Näin kävi Microsoftin ja IBM:n tekoälypilvipalveluille, jotka tunnistivat valkoisten miesten sukupuolen todella tarkasti, mutta mustien naisten sukupuolen erittäin epätarkasti.

Vaikka kehitystä on tapahtunut (muun muassa käännösohjelmissa ”hän on sairaanhoitaja” käännökseksi tarjoillaan jo onneksi kahta vaihtoehtoa: ”She is a nurse/He is a nurse”), kontekstiin sidotut stereotypiat hämäävät edelleen tekoälyä. Esimerkiksi, tekoälyavusteinen litterointisovellus ei tunnista tiede-, teknologia- ja innovaatiokontekstissa naisia vaan olettaa, että vain miehet ovat relevantteja keskusteltaessa innovaatioiden rahoituksesta. Sovellus on toki sikäli oikeassa, että edelleen suurin osa teknologia-start-up – rahoituksesta ohjautuu Euroopassa miehistä koostuville tiimeille.

Sukupuolittuminen ei näy ainoastaan algoritmeissa ja datassa, vaan tekoälyyn liittyvien innovaatioidenkin sukupuolittuminen on tavanomaista. Esimerkiksi räjähdysmäisen suosion saavuttaneet chatbotit ja virtuaaliset assistentit, kuten Amazonin Alexa ja Applen Siri, toimivat usein naisäänellä piiloviestinään alistuva ”persoonallisuus”. Unescon mukaan tapa, jolla ääniavustajat sukupuolittuvat naisiksi toimiessaan naisäänillä ja naisten nimillä on vakavasti ongelmallinen ja vahvistaa stereotypioita naisista ”palvelevina” olentoina, jotka ovat olemassa vain jonkun toisen käskyjä varten. Unescon tutkimuksen otsikko ”I’d Blush if I Could” (punastuisin, jos voisin) on se, mitä Siri tapasi sanoa vastauksena toteamukseen ”Hey Siri, you’re a bitch”. On surullista, että nämä virtuaaliset naisääniset assistentit ohjelmoidaan vastaamaan häirintään jopa anteeksipyytävin vastauksin, tai että ne oppivat nopeasti naisvihamielisen puhetavan, kuten kävi Microsoftin boteille.

Hihat ylös tasa-arvon vahvistumisen puolesta

Meidän on vastuu. On ymmärrettävä, että mikään tekoälynarratiivi ei ainoastaan ”tapahdu” meille, vaan me ihmiset itse luomme, ohjaamme ja valvomme tekoälyn kehittämistä ja käyttöä inhimillisten tavoitteiden edistämiseksi. Kuinka sitten sukupuolittuneet ennakkoluulot voidaan poistaa tekoälykehityksestä?

Unescon mukaan todellinen edistys sukupuolten tasa-arvon alueella on sen varmistaminen, että kaikki sukupuolet ovat tasapuolisesti edustettuina päätöksentekijöinä yrityksissä, teollisuudessa ja politiikassa. On luotava hyviä käytäntöjä, joiden avulla voidaan voittaa tekoälysovelluksissa, tiedostoissa ja algoritmeissa esiintyvät sisäänrakennetut sukupuolittuneet ennakkoluulot. On myös parannettava naisten maailmanlaajuista edustusta teknologia-alan rooleissa ja päätöksentekoelimissä. Lisäksi on luotava vankkoja ja kaikki sukupuolet huomioivia tekoälyä edistäviä periaatteita, suuntaviivoja ja eettisiä sääntöjä teknologian alalle sekä keinoja tekoälyn tasa-arvoistavaa hallintaa varten. Unesco peräänkuuluttaa tietoisuutta ja lukutaitoa sekä teknisen ja eettisen koulutuksen ja eettisen suunnittelun taitojen kehittämistä.

Entä mitkä ovat käytännön kehitystiimien mahdollisuudet tasa-arvon edistämiseen? Alan tutkijoina näemme ainakin neljä mahdollisuutta:

1. Varmistetaan naisten osallistuminen kehitystyöhön niin käyttäjinä kuin tiimin jäseninä koko suunnittelu- ja kehitysprosessin ajan.
2. Käydään dialogia suunnittelu- ja kehitystyöpajoissa sukupuolittumisen ja intersektionaalisuuden kysymyksistä peilaten suunnittelupäätöksiä vallitsevaan ympäristöön lyhyellä ja pitkällä aikavälillä.
3. Analysoidaan data ja algoritmit sukupuolivinoutumien välttämiseksi ja oikeudenmukaisuuden ja tasavertaisen palvelun varmistamiseksi.
4. Koulutetaan tekoälyä tarpeeksi laajoilla ja monimuotoisilla datoilla ja testataan tuloksia ennen käyttöönottoa.

Mikään ei muutu, ellemme havahdu myös asennetasolla tekoälyn mahdollistamaan sukupuolten väliseen epätasa-arvoon. Asennemuutosta edesauttaa tietoisuus tekoälyn mahdollisista yhteiskunnallisista ja eettisistä vaikutuksista sekä väärinkäytöstä.

”Ilman tietoisuutta tekoälyn käyttötarkoituksista, riskeistä ja rajoituksista olemme edelleen sellaisten tahojen armoilla, jotka hyötyvät tekoälyjärjestelmistä, vaikka ne lisäävät rakenteellista eriarvoisuutta ja rikkovat kansalaisoikeuksia ja -vapauksia. ” (Joy Buolamwin)

Voisiko tekoälyn itsessään valjastaa tasa-arvon ajuriksi? Tässä ajassa, jossa jopa ”totuus” ei aina ole totta vaan vaihtoehtoista, rinnakkaista tai tukahdutettua, on tärkeää, että niidenkin ääntä kuullaan, joiden on vaikeaa saada sitä kuuluville. Vastuullisesti kehitetyt ja organisoidut kansalais- ja sidosryhmäkonsultaation alustat, jotka mahdollistavat tasavertaisen keskustelun, ovat tärkeä askel tällä tiellä.

Kirjoittajat Jaana Leikas, Nina Rilla ja Nina Wessberg työskentelevät tutkijoina Teknologian tutkimuskeskus VTT:llä.