Tekoälyn etiikka koskettaa myös tiedustelun maailmaa

ETAIROS Signal post kesäkuu 2022

Tekoälyn hyödyntämisestä käytävä vilkas yhteiskunnallinen keskustelu on nostanut esiin erilaisia vastuullisuuteen ja etiikkaan liittyviä kysymyksiä. Tekoälyn tuoma mittava potentiaali on asetettu vastakkain sen tuomien riskien kanssa. Viimeksi Euroopassa keskusteluun tekoälyn etiikasta on osallistunut ehkä hieman yllättäenkin Britannian signaalitiedustelu GCHQ.

Britannian signaalitiedustelun vuonna 2021 julkaisema raportti esittää, että tekoälyä voidaan hyödyntää tiedustelun palveluksessa esimerkiksi vihamielisen disinformaation torjunnassa sekä lasten hyväksikäyttäjien ja ihmissalakuljettajien kiinni saamisessa. Tekoälyn hyödyntämismahdollisuuksien esittelyn lisäksi raportti pohtii tekoälyn soveltamiseen liittyviä eettisiä kysymyksiä.

Tekoälyn etiikan sijaan tiedustelu on viime aikoina liitetty vahvasti Ukrainan sotaan, jonka arvioinnissa tiedustelupalveluiden rooli on perinteinen ja ymmärrettävä. Sitä vastoin Britannian signaalitiedustelun kaltaisten toimijoiden osallistuminen tekoälyn etiikasta käytävään yhteiskunnalliseen keskusteluun on varsin uusi ilmiö, joka herättää myös kysymyksiä. Miten tekoäly ja tiedustelu liittyvät toisiinsa? Voidaanko etiikasta ja tiedustelusta ylipäänsä puhua samassa lauseessa?

Teknologian kehitys haastaa ja hyödyttää tiedustelua

Tiedustelu on yhtä vanhaa kuin sivilisaatio. Kautta historian on haluttu tietää mitä kilpailijat ja kumppanit puuhaavat. Jo raamatullisina aikoina kerrotaan Mooseksen lähettäneen vakoilijoita tiedustelemaan luvatun maan olosuhteita.

Tiedustelun tehtävänä on tuottaa tietoa päätöksenteon tueksi. Tiedustelutieto liittyy usein erilaisten toimijoiden aikeisiin ja kyvykkyyksiin sekä näiden muodostamiin mahdollisiin uhkiin. Näin voidaan antaa tarvittaessa päättäjille ennakkovaroitus esimerkiksi sotilaallisen tai terroristisen uhan realisoitumisesta.

Tiedustelun motiivit ovat pysyneet pitkälti samoina, mutta tiedustelun teknologinen keinovalikoima on kehittynyt huomattavasti vuosisatojen kuluessa. Tiedustelupalvelut ovat kautta historian olleet teknologian hyödyntämisen eturintamassa aina radioaalloista kvanttilaskentaan. Erilaisten koneiden ja sensorien kyky laajentaa ihmisten aisteja muodostaa tärkeän osan tiedustelutoiminnan kehitystä.

Viimeksi tiedustelun toimintaympäristöä on muuttanut etenkin digitaalinen vallankumous. Maailman väestön yhä vahvempi verkottuminen internetiin erilaisten sensorien, kuten älypuhelinten kautta tuottaa ihmisistä ja heidän ympäristöstään valtavia määriä tiedustelun kannalta tärkeää valuuttaa, dataa.

Tiedustelutoimijoiden kannalta tämä tarkoittaa paradoksaalisesti sitä, että ongelmaksi on muodostunut informaationiukkuuden sijaan informaatioähky. Dataa yksinkertaisesti tuotetaan ja kerätään monin verroin enemmän kuin sitä ehditään ihmisten toimesta käsitellä sekä analysoida.

Näistä haasteista johtuen tekoälyteknologioilla on myös tiedustelun parissa kasvava rooli erilaisten sensorien keräämien datamassojen suodattamaisessa, käsittelyssä ja luokittelussa.  Myös Britannian signaalitiedustelu näkee tekoälyn keskeisenä digitaalisen aikakauden kyvykkyytenä kansallisen turvallisuuden saralla.

Britannian signaalitiedustelun raportti ei avaa tekoälyn varsinaisia käyttötapoja kovinkaan seikkaperäisesti, vaan nostaa esiin erilaisia teemoja, joissa sitä aiotaan hyödyntää. Raportti korostaa, että tekoäly ei tee päätöksiä ihmisten puolesta, vaan sen tehtävä on ”tehostaa” ihmisanalyytikoiden päätöksentekoa. Tämä painotus heijastelee osaltaan yleisiä tekoälyn soveltamiseen liitettyjä yhteiskunnallisia huolia.

Tiedustelun teknoetiikka

Tekoälyn tuomista hyödyistä huolimatta sen käyttöönotto ja soveltaminen tiedustelun kaltaisessa ympäristössä on laajempi yhteiskunnallinen ilmiö, johon liittyy erilaisia teknoeettisiä kysymyksiä. Britannian signaalitiedustelun johtajan Jeremy Flemingin mukaan tekoälyn avaamat uudet mahdollisuudet tuovat mukanaan myös huomattavia eettisiä haasteita liittyen syrjintään, vastuuvelvollisuuteen ja oikeudenmukaisuuteen.

Tekoälyn hyödyntäminen tiedustelussa voi entisestään lisätä tiedustelupalveluiden toiminnan arvioinnin vaikeutta sekä nakertaa niiden hyväksyttävyyttä kansalaisten silmissä. Tekoälyn eettinen arviointi missä tahansa ympäristössä on hankalaa, mutta tekoälyn kaltaisen monimutkaisen teknologian ja salaisen tiedustelutoiminnan yhdistelmä muodostaa helposti suorastaan läpinäkymättömän mustan laatikon.

Britannian signaalitiedustelun tekoälyn etiikkaa käsittelevä raportti onkin nähtävä tätä taustaa vasten eräänlaisena keskustelualoitteena. Perinteisesti uudet teknologiat on otettu kansallisen turvallisuuden kentällä käyttöön ilman sen suurempaa julkista keskustelua teknologioiden hyödyntämisen ehdoista, motiiveista ja rajoista.

Signaalitiedustelun raportti avaa uudella tavalla tiedustelun suljettua maailmaa ja tuo sitä osaksi laajempaa yhteiskunnallista keskustelua tekoälyn eettisestä soveltamisesta.

Signaalitiedustelun esittelemässä tekoälyn hallintaviitekehyksessä korostuvat eettisen koodiston, standardien ja koulutuksen kaltaiset elementit. Raportti korostaa myös, että tekoälyn hallinnan on oltava luonteeltaan eritaustaisia ihmisiä osallistavaa, jotta tekoäly heijastelisi paremmin koko yhteiskunnan kirjoa. Uuden avoimuuden hengessä mukaan keskusteluun on lähdetty hakemaan myös kansalaisyhteiskunnan toimijoita, kuten erilaisia dataetiikkaa kehittäviä instituutioita ja järjestöjä.

Avoimuudella pyritään varmistamaan tiedustelutoiminnan hyväksyttävyyden lisäksi tiedustelupalveluiden houkuttelevuus kilpailussa yksityisen teknologiasektorin kanssa. Tekoälyn vastuullisen ja eettisen hyödyntämisen mallin avulla pyritään myös tekemään pesäeroa autoritääristen maiden tiedustelupalveluiden toimintaan.

Tiedustelun yhteiskuntasopimuksesta sosiaaliseen toimilupaan

Tiedustelun vastuullisuutta koskeva yhteiskunnallinen keskustelu on suhteellisen uusi ilmiö, mutta sen juuret ulottuvat syvälle tiedustelun historiaan. Viimeaikaisen, tekoälyn soveltamista koskevan, keskustelun taustalla onkin syvempi kysymys siitä, voiko tiedustelu ylipäänsä olla eettistä.

Joidenkin näkemysten mukaan ”eettinen tiedustelu” on käsitteenä looginen mahdottomuus, sillä tiedustelun kentällä operoidaan väistämättä moraalin harmaalla alueella. Tiedusteluun liittyy eittämättä erilaisia moraalisia dilemmoja esimerkiksi demokraattisen yhteiskunnan läpinäkyvyyden ihanteen ja tiedusteluun elimellisesti liittyvän salattavuuden välillä. Liberaaleissa demokratioissa tiedusteluun liittyvän eettisen keskustelun keskiössä on perinteisesti ollut jännite kansallisen turvallisuuden yleisen hyvän, sekä yksilönvapauden ensisijaisen hyvän välillä.

Näitä jännitteitä on vaikea täysin ratkaista, mutta niitä voidaan hallita demokraattisen prosessin, filosofiaan pohjaavan viisauden sekä yhteiskunnallisen keskustelun avulla.

Tärkeitä ohjaavia periaatteita tiedustelun etiikkaan on haettu esimerkiksi keskiajalle asti ulottuvasta oikeutetun sodan perinteestä, joka käsittelee tiedustelun aihepiiriin sovellettuna sitä, millä ehdoilla ja keinoilla tiedustelua voidaan toteuttaa. Tärkeinä ohjenuorina on pidetty hyveellisiä motiiveja, suhteellisuusperiaatetta sekä riittävää vastuuvelvollisuutta.

On kuitenkin hyvä huomata, että mikään eettinen lähestymistapa tai pohdinta ei itsessään muodosta varsinaista mallia tekoälyn hallintaan. Tutkija Daragh Murrayn mukaan eettiset viitekehykset ovat siinä mielessä epätarkkoja, etteivät ne määritä konkreettisia velvoitteita tai mekanismeja tekoälyn haittojen tunnistamiseen tai hallinointiin.

Liberaalidemokraattisten maiden tiedustelun kulmakivenä toimii eettisten periaatteiden lisäksi lainsäädäntöön perustuva viitekehys, jota voidaan myös päivittää tarpeen mukaan. Britannian signaalitiedustelun entinen johtaja David Omand muistuttaa, että tiedustelun toimivaltaa määrittävä ”yhteiskuntasopimus” on useimmissa länsimaissa pitkän historiallisen kehityksen tulos, jonka myötä tiedustelutoiminta on siirtynyt hallitsijoiden käsikassarasta demokraattiseen viitekehykseen.

Tekoälyn kaltaisten, potentiaalisesti vallankumouksellisten, teknologioiden käyttöönotto voi kuitenkin heikentää tiedustelun yhteiskuntasopimusta. On mahdollista, että tekoälyn käyttöä sääntelevä lainsäädännöllinen viitekehys ei pysy riittävällä tavalla teknologisen kehityksen sekä siihen liittyvien yhteiskunnallisten odotusten tasolla.

Tästä johtuen tekoälyn lainsäädännöllistä ja eettistä ohjausta voidaan täydentää niin sanotun sosiaalisen toimiluvan käsitteellä. Sosiaalinen toimilupa ei ole valmis malli tai viranomaislupa, vaan enemmänkin kielikuva vuorovaikutusprosessille, jossa luodaan luottamusta organisaation ja sen sidosryhmien sekä laajemman yhteiskunnan välille. Ajatusta voidaan myös soveltuvilta osin hyödyntää tiedustelun parissa.

Sosiaalinen toimilupa tarjoaa joustavan ja dynaamisen keinon arvioida tekoälyn soveltamiseen liittyviä kysymyksiä sekä tarvittaessa päivittää tekoälyn hallintamekanismeja. Näin voidaan osaltaan varmistaa tekoälyn hyödyntämisen demokraattinen hyväksyttävyys sekä kansalaisten luottamus tiedustelupalveluiden toimintaan.

Varjoista valoon

Britannian signaalitiedustelupalvelun tekoälyn etiikkaa käsittelevä raportti kertoo rivien välistä myös siitä, miten tiedustelupalvelut ovat länsimaisissa demokratioissa vähitellen siirtyneet pimennosta osaksi julkista keskustelua. Tiedustelun toimintaedellytyksiin kuuluu nykyään, että se kertoo toiminnastaan ja käy vuoropuhelua yhteiskunnan eri toimijoiden kanssa.

Vuoden 2019 kesäkuussa voimaan tullut uusi tiedustelulainsäädäntö saattoi myös Suomen niin ikään linjaan muiden länsimaisten demokratioiden kanssa. Uuden tiedustelulainsäädännön myötä yhteiskunnallinen keskustelu aihepiirin ympärillä on vilkastunut. Julkinen keskustelu on tärkeää, sillä se voi parhaimmillaan kehittää kansalaisten ymmärrystä tiedustelutoiminnan tarkoituksesta, keinovalikoimasta sekä tiedustelun valvonnasta.

Tekoälyn eettisen ja lainsäädännöllisen ohjaamisen lisäksi sosiaalisen toimiluvan kaltaiset yhteiskunnalliset vuorovaikutusprosessit voivat osaltaan auttaa turvaamaan sen, että tekoälyn hyödyntäminen on linjassa demokraattisen yhteiskunnan arvojen kanssa, myös tiedustelun maailmassa.

Kirjoittaja: tutkija Santtu Lehtinen, VTT

**

Tiedustelun ja tekoälyn etiikkaa pohditaan ETAIROS -podcast-sarjan jaksossa ’Avoimuus + tekoäly = eettisempää tiedustelua?’.  Kuuntele ajankohtainen jakso täältä!