Kansalaisten rooli tekoälykehityksessä ja tekoälyn käytössä

Signal post, kesäkuu 2021.

Deliberatiivinen demokratia on viime vuosina aiheuttanut liikehdintää erityisesti kunnissa, joissa on yritetty syventää kansalaisosallistumisen muotoja. Perinteiset kuulemistilaisuudet eivät enää palvele kansalaisosallistumisen tarpeita, vaan kansalaisten odotetaan pääsevän osallistumaan oikeasti päätöksentekoprosesseihin, ja toteuttamaan yhteiskehittämisen malleilla esimerkiksi juuri kaupunkikehitystä.

Samaa ajattelua deliberatiivisen demokratian kanssa on kansalaistieteessä (citizen science), jonka mukaisesti kansalaiset osallistuvat tieteen tekemiseen esimerkiksi tuottamalla havaintoja tieteen käytettäväksi tai osallistumalla tieteen tekemiseen työpajatyöskentelyn ja muun yhteiskehittämisen menetelmien avulla. Kansalaistiedettä voidaan käyttää myös innovoinnissa, josta syntyvillä innovaatioilla tähdätään liiketoimintaan.

Myös tekoälyn suunnittelemisessa, luomisessa ja käytössä voidaan miettiä kansalaisten roolia. Pohdinnan kohteena voi olla esimerkiksi se, että tietävätkö kuluttajat mitä haluavat tekoälysovelluksilta? Mikä on kuluttajamanipulaation rooli niissä tarpeissa, joihin tekoälyä suunnitellaan? Miten markkinoiden vahvat toimijat tosiasiallisesti ohjaavat kuluttajavalintoja ja mikä on pienempien markkinatoimijoiden mahdollisuus? Miten kuluttajat voivat osallistua tekoälyn suunnitteluun, tekemiseen ja käyttöön?

Pohdimme muun muassa näitä kysymyksiä ETAIROS-hankkeessa tutkijoiden kanssa keväällä 2021. Mietimme asiaa kahdella akselilla: 1) suljettu – avoin data ja algoritmit sekä 2) julkinen – yksityinen tekoälysovellus.

Keskusteluissa pohdittiin esimerkiksi, miten kansalaisyhteiskunta integroidaan aidosti tekoälyn kehitykseen? Etujärjestöedustuksellisuus ei ole välttämättä toimivin ratkaisu. Entä missä määrin kysymykset voivat politisoitua negatiivisella tavalla? Voiko niistä tulla esimerkiksi ”identiteettipolitiikkaa”? Voiko tätä ehkäistä jotenkin? Missä sovelluksissa kansalaisia on kuunneltava ja missä roolissa: sitova päätös vai neuvoa antava kuuleminen?

Tärkeä kysymys on myös marginaaliin jäävien ihmisten ja ihmisryhmien huomioiminen tai huomiotta jättäminen järjestelmien kehitystyössä. Esimerkiksi maahanmuuttajien, aistirajoitteisten, vanhusten tai lasten osalta tarpeet ja toiveet voivat olla erilaiset valtaväestöön nähden.

Totta eittämättä on, että sekä deliberatiivisessa demokratiassa että kansalaistieteessä kansalaisilta vaaditaan paljon osaamista ja tietoa, myös vastuuta.

Tekoälytutkijan testamentiksi sanotussa teoksessaan, Rauhankone, professori Timo Honkela viitoitti suuntaa, joka voi ohjata tekoälyn kehitystyötä kohti deliberatiivista demokratiaa ja kansalaistiedettä. Honkelan ajatusten mukaan tekoälyn avulla voidaan saada suuri joukko kansalaisia osallistumaan päätöksentekoon saman pöydän ääressä. Tämä on mahdollista kansalaisilta kerättävän datan avulla, jota voidaan hyödyntää päätöksenteossa tekoälyn avulla.

Honkela viitoittaa tekoälyn kehitystä vielä laajemmalle, yli valtioiden rajojen: ”Tulevaisuudessa voimme edelleen panostaa teknologioihin, jotka lähentävät ihmisiä ja kulttuureja eri puolilta maailmaa niin, että he oppivat tuntemaan ja arvostamaan toisiaan – ymmärtämään toisen identiteettiä ja kohtaamaan erilaisia ihmisiä.” (Rauhankone, s. 109) Tekoäly voisi siis antaa meille kapasiteettia tuottaa maailmaan ymmärrystä ja solidaarisuutta eri kulttuuristen kansalaisten välille — viimekädessä tämä ehkäisisi ihmisten välisiä erimielisyyksiä ja sotia.

Tekoälyn avulla voitaisiin toteuttaa myös kansalaistiedettä kansalaisilta ja kansalaisista kerättävän datan avulla. Euroopassa GDPR-ohjeistus rajoittaa tällaisen datan keräämistä ja käyttöä. Honkelan radikaalin ajatuksen mukaan, jos kaikkien data olisi avointa, ei kenenkään tarvitsisi salata mitään, ja data olisi vapaasti hyödynnettävissä. Konkreettinen aikamme esimerkki yksityisyyden suojan varjelemisesta on koronavilkku-sovellus, jonka toiminta voisi olla tehokkaampaa ilman yksityisyyden vahvaa suojaa.

Loppujen lopuksi kysymys kuitenkin kulminoituu datan omistajuuteen ja sen hyödyntämisen arvoon ja eettisyyteen. Toisaalta kysymys on siitä, saadaanko tekoäly toimimaan niin, että se luo arvoa ihmisille, eikä vain tehosta toimintaa niin, että syntyy säästöjä, joiden myötä ihminen, ja kansalainen tarpeineen, mahdollisesti unohtuu.

Kirjoittaja: Nina Wessberg (VTT)

Kuva: VTT