Mikä meitä ohjaa?

It always seems impossible until it’s done. Tämän Nelson Mandelan lauseen kertoi Aleksi Kopponen motokseen ETAIROS -hankkeen järjestämässä virtuaaliseminaarissa 30.9. Mikä meitä ohjaa? -seminaari järjestettiin osin Tampere-talossa ja osin virtuaalisesti, osana Business Tampereen järjestämää AI Finland 2020 -tapahtumaa.

Tilaisuudessa keskusteltiin siitä, millaisia eettisiä haasteita tekoälyn käyttöön liittyy, miten näitä haasteita on ratkottu ajankohtaisissa tekoälyä hyödyntävissä hankkeissa, ja mitä tulisi huomioida, kun organisaatioissa käynnistetään tekoälyn kehityshankkeita.

Päivän teemaan johdattelivat Jyrki Nummenmaa ja Kalle Piirainen pohtimalla, missä tekoälyn etiikka tapahtuu. Jyrki on paitsi ETAIROS:n konsortion johtaja, tietojenkäsittelyopin professori Tampereen yliopistossa. Hän tutkii muun muassa algoritmeja, tiedonlouhintaa ja luonnollisen kielen käsittelyä. Kalle Piirainen on politiikkatoimien ja arvioinnin kehittämisen asiantuntija, jolla on kokemusta innovaatiojohtamisen ja järjestelmien sekä ennakoinnin tutkimuksesta. Jyrkin mukaan tekoäly on sekä suurten datamäärien käsittelyä, että koneoppimista. Ensimmäiset tekoälysovellukset ovat tämän päivän käsityksen mukaan vain datan käsittelyä. Käsitys siitä mitä tekoäly on, muuttuu kuitenkin koko ajan ajassa, kun opitaan lisää. Kalle puolestaan määritteli keskeiset kysymykset, joihin meidän tulisi kyetä vastaamaan tekoälyä eettisesti sovellettaessa. Näitä ovat mm. kysymykset siitä, kuinka järjestelmä on ohjelmoitu, millaisia sääntöjä ja dataa se käyttää, mihin ja miten sitä käytetään, sekä mitä käyttäjät eri rooleissa tekevät ja miten he kommunikoivat järjestelmän kanssa.

Toisena seminaarin keskeisenä teemana oli kansallinen tekoälyohjelma AuroraAI, jonka tavoitteena on tukea kansalaisten hyvää ja sujuvaa arkea elämän eri tilanteissa ja tapahtumissa. Aleksi Kopponen valotti AuroraAI-ohjelman tahtoa, tavoitteita ja näkymiä. Aleksi työskentelee AuroraAI-tiimissä, kotiorganisaationaan valtiovarainministeriö. Hän on ollut mukana valmistelemassa AuroraAI-ohjelman perustaa vuodesta 2015 saakka. Työn ohella Aleksi tutkii Aallon kauppakorkeakoulun tohtorikoulutettavana yhteiskuntamme edellytyksiä siirtyä kohti ihmiskeskeistä ja ennakoivaa yhteiskuntaa. AuroraAI on kunnianhimoinen ohjelma, jossa pyritään muuttamaan nykyiset siiloutuneet palvelurakenteet tekoälyn avulla yhtenäisiksi palvelukokonaisuuksiksi. Näin parannetaan organisaatioiden edellytyksiä vahvistaa ihmisten hyvinvointia. Ohjelmakauden 2020–2022 aikana rakennetaan kansallinen digitaalinen infrastruktuuri mahdollistamaan palveluiden älykäs vuorovaikutus ja kohdentaminen suoraan kansalaisten elämän eri vaiheisiin. Sen keskeisenä tavoitteen on tuottaa palvelut ihmisten erilaisiin elämäntapahtumiin älykkäästi eri sektorien ja palvelutuottajien yhteistyönä ja ihmislähtöisesti uutta teknologiaa hyödyntäen.

Tampereen kaupunki on osallistunut omalta osaltaan AuroraAI:n kehittämiseen. Kehittämispäällikkö Sanni Pöntinen kertoi esiselvitysvaiheen kokemuksista ja matkasta kohti toimeenpanoa. Sanni on toiminut yli vuosikymmenen Tampereen kaupungin johtavana museolehtorina, kehittänyt tulevaisuuden kuntaa strategia- ja kehittämisyksikössä ja toimii nyt kehittämispäällikkönä elinvoiman ja kilpailukyvyn palvelualueella. Tampereella AuroraAI:ta on sovellettu opiskelijoiden sitouttamiseen tamperelaisiksi. Lähtökohtana on ollut luoda ensin kokonaiskuva opiskelijoiden hyvinvoinnin tilasta ja palvelutarpeista sekä pohtia, miten hyvinvointia voidaan lisätä tekoälyn ja digitaalisten palvelujen avulla. Tämän pohjalta järjestettiin dialoginen yhteiskehittämisprosessi, jossa määriteltiin mm. visiot ja tarvittavat toimenpiteet uuden toimintamallin kehittämiseksi. Eräänä keskeisenä havaintona prosessista nousi esiin, että “ilmiöpohjaisia ongelmia ei voi ratkaista yhdestä siilosta tai professiosta käsin. Tarvitaan yhteistä tulkintaa, oppimista ja kulttuurin muutosta sekä dialogia kuntien, kuntayhtymien, valtion, yritysten, järjestöjen, kuntalaisten ja tutkimusyhteisöjen kanssa.” Digitalisaatio ja tekoäly puolestaan luovat mahdollisuuksia toimia tämän näkemyksen mukaisesti.

Yleisö osallistui keskusteluun äänestämällä keskeisimmistä tekoälyn soveltamisen haasteita organisaatioissa.

Marko Latvanen Digi- ja väestötietovirastosta kertoi AuroraAI:n eettisistä haasteista. Lähes 20 vuoden ajan Suomi.fi-palvelujen parissa toiminut Marko koordinoi parhaillaan AuroraAI-ohjelman etiikkaa ja vastuullisuutta, periaatteista käytäntöön. Hän kertoi haluavansa edistää digi-Suomea, jossa jokainen voi käyttää tai olla käyttämättä edistyneitä palveluja omilla ehdoillaan, ja jossa ihmisillä on mahdollisuus osallistua palvelujen kehittämiseen. Hän muistutti, että ihmisoikeudet ja yksityisyys sekä yksilöiden ja ihmiselämän loputon kirjo on huomioitava tinkimättä, kun uutta kehitetään. Markon mukaan yhtenäisten palvelukokonaisuuksien tuottaminen on haasteellista. Ei tule myöskään unohtaa digitaalisten palvelukokonaisuuksien saavutettavuutta erityisryhmille, kuten ikääntyneille tai toimintarajoitteisille ihmisille. Marko kiinnittikin puheenvuorossaan erityistä huomiota toiminnan vaikutuksiin ja vaikuttavuuden arviointiin ja mahdollisten riskien välttämiseen uutta teknologiaa sovellettaessa. Vaikutuksia tulisi arvioida monitahoisesti ja riippumattoman toimijan toimesta.

Aurorasta siirryimme keskustelemaan liikkumisesta ja liikenteestä. Kirsi Miettinen kertoi tulevaisuuden tieliikenteestä ja eettisen teknologian hyödyntämisestä liikenteessä. Kirsi toimii lainsäädäntöneuvoksena liikenne- ja viestintäministeriön tieto-osastolla. Hän on työskennellyt pitkään digitalisaatioon ja tiedon hyödyntämiseen liittyvien kysymysten parissa. Tällä hetkellä hänen fokuksessaan on liikenteen automaatiokehityksen edistäminen etenkin sääntelyn keinoin. Hänelle keskeisiä lähtökohtia tekoälyn hyödyntämisessä liikenteessä olivat inhimillisestä virheestä johtuvien onnettomuuksien väheneminen automaation edetessä, liikenteen ohjaus- ja hallintapalveluiden merkityksen kasvu liikennevirtojen ohjailussa, sekä liikenteen päästöjen vähentäminen tiedon hyödyntämisen avulla. Automaation kehittämisessä keskeistä on kolme ”pilaria”: a) Ihmiskeskeisyys, jossa lähtökohtana ovat ihmisten ja yhteiskunnan tarpeet; b) Digitaalisen datan jakaminen on avaintekijä liikenteen automaatiossa, ja tätä varten tarvitaan selkeä datan hallintamalli; c) Meidän tulee miettiä uudelleen regulaatioviitekehys holistisesti ja tavoitelähtöisesti, ei teknologiavetoisesti. Kun automaatio etenee, sitä tärkeämmiksi tulevat läpinäkyvyyden ja selitettävyyden vaatimukset luottamuksen säilyttämiseksi. Niin ikään vastuu toiminnasta siirtyy yhä enemmän ihmiseltä teknologisten järjestelmien kehittäjille.

Nina Rilla kertoi lopuksi näkökulmia etiikkaan silloin kun liikkeellä on ihminen ja kone, yhdessä ja erikseen. Nina työskentelee erikoistutkijana VTT:llä eettisten ja vastuullisten innovaatioiden parissa. ETAIROS-hankkeessa hän luotsaa autonomiset järjestelmät case-aluetta, jossa keskitytään tekoälyn etiikkaan maa- ja meriliikenteessä. Nina ja kumppanit ovat ETAIROS:ssa tutkineet mm. sitä, mistä syntyy eetos autonomisen liikenteen turvallisuudesta. Vaikka keskeisenä perusteluna autonomisten järjestelmien käyttöotolle liikenteessä on toiminut turvallisuus, ei autonomisten ajoneuvojen merkittävästi ihmistä parempaa turvallisuutta kuitenkaan ole monien tutkimusten mukaan vielä mahdollista aukottomasti todentaa. Syitä tähän ovat mm. testidatan ja kokemuksen vähyys, turvallisuuden validoinnin haasteellisuus, inhimillisen virheen tulkinnan yksioikoisuus, sekä turvallisuuskulttuurin puutteet. Teknologiahype on saattanutkin johtaa teknologian mahdollisuuksien ylikorostumiseen keskustelussa. Turvallisuus on moniulotteinen, kompleksinen ja kontekstisidonnainen käsite. Tästä syystä tarvitaan kansalaiskeskustelua AI-teknologioiden luottamuksen nostamiseksi. Lopuksi Nina peräänkuulutti keskustelun kääntämistä tekoälyn uhkista sen mahdollisuuksiin.

Yleisö osallistui liikennekeskusteluun äänestämällä tärkeimmistä liikkumiseen liittyvistä eettisistä haasteista.

Vastaajien mukaan keskeisimmäksi haasteeksi valikoitui ihmisten ja eläinten fyysisen turvallisuuden takaaminen. Yleisö myös äänesti siitä, tarvitaanko Suomeen tekoälyn eettinen neuvosto. Tämä näkemys saavutti suosiota ja kysymys varmasti ansaitsee lisäpohdintoja ja keskustelua keskeisissä tekoälyn käyttöottoa valmistelevissa työryhmissä ja viranomaistahoilla.

Tapahtuman viestiseinällä käytiin myös vilkas keskustelu tekoälyn etiikkaan ja soveltamiseen liittyvistä kysymyksistä. Eräänä keskeisenä lähtökohtana monipolvisessa keskustelussa oli teknologian tuottamat yhteiskunnalliset vaikutukset ja miten näitä pitäisi tarkastella. Lähtökohdiltaan oppivat järjestelmät käyttävät pohjana ihmisten toiminnan tuottamaa dataa, jossa olevat vääristymät siirtyvät puolestaan helposti tekoälymalleihin. Tämä asetelma kiteytettiin keskustelussa: ”AI on ikään kuin vahvistin, joka pahimmassa tapauksessa voi vinouttaa tulevaa dataa entistä enemmän.” Haasteellista on myös se, että emme aina tiedä, miten tekoäly on päätynyt suosittelemiinsa ratkaisuihin. Tämä puolestaan herätti keskustelua vastuukysymyksistä. Yhtäältä voidaan kysyä, halutaanko rajata tekoälyn käyttö vain tehtäviin, jotka ovat ihmisten selitettävissä ja ymmärrettävissä. Jäisikö jotakin olennaista tällöin hyödyntämättä tai saavuttamatta – myös eettisessä mielessä – teknologian hyödyntämisessä, kuten esimerkiksi terveydenhoidossa? Tähän puolestaan vastattiin, että ihmisten keskinäinen toiminta perustuu aina oletukseen, että tarvittaessa toisen ihmistoimijan voi vaatia moraaliseen tai lailliseen vastuuseen teoistaan. Tekoälytoimijaa ei sen sijaan voi vaatia vastuuseen ja siksi ajatus, että päätöksenteon perusteita ei ymmärretä, on eettisesti hankala.

Huomautettiin myös, että laki jo vaatii viranomaisia toimimaan vaikutuksia ennakoivalla tavalla sekä eri väestöryhmien yhdenvertaisuuden huomioiden – tekoälyn hyödyntäminen ei saa johtaa joidenkin väestöryhmien syrjimiseen. Keskustelussa pohdittiinkin, että tilanne saattaa johtaa käytännössä kompromisseihin, ”trade-off -tilanteisiin”, selitettävyyden ja turvallisuuden välillä – vai olisiko mahdollista poimia ”rusinat pullasta” kummaltakin puolelta. Ratkaisuna haasteisiin tarjottiin dialogisuutta ja vaikutusten parempaa ennakointia.  Meidän tulisi myös tiedostaa omat ajatusvääristymämme organisaatioissa ja uskaltaa arvioida niitä kriittisesti. Tähän tarvitaan puolestaan etiikkaa, sidosryhmien kanssa käytävää keskustelua ja ennakointia.

Aika vierähti nopeasti asiantuntevia puheenvuoroja kuunnellessa ja niistä keskustellessa. Lämmin kiitos kaikille osallistujille. Kuten niin monessa kommenttipuheenvuorossa todettiin, etiikka on viime kädessä keskustelua jakamistamme arvoista ja dialogia parhaan mahdollisen lopputuloksen saavuttamiseksi. Jatkamme keskustelua!

Mikä meitä ohjaa? -tapahtuman juontajina ja tämän blogin kirjoittajina toimivat Jaana Leikas ja Mika Nieminen VTT:ltä.