Tekoäly sodan palveluksessa

ETAIROS Signal post maaliskuu

“Älykkyys on kykyä oppia uusia asioita ja soveltaa opittua nopeasti.
Viisaus sen sijaan on kykyä käyttää tietoa hyvien päätösten ja arviointien tekemiseksi.” (Wikipedia)

Mahdollistaako tekoälyn käyttö nykyistä humaanimman sodankäynnin kohdistamalla esimerkiksi iskut täsmällisemmin harkittuihin kohteisiin. Vai onko tekoälyä hyödyntäen helpompi toteuttaa entistä kylmempiä sotimisen muotoja, kun toteuttaja istuu mukavasti näppäimistönsä äärellä fyysisesti kaukana itse sotatilanteesta?

Digitalisaatio ja tekoäly muuttavat sodankäynnin muotoja niin hyvässä kuin pahassa. Aloitamme tällä signal post -kirjoituksella neljäosaisen sarjan, jossa pohdimme sotaan ja tekoälyyn liittyviä, ajassa virtaavia eettisiä ilmiöitä. Tässä kirjoituksessamme keskitymme tekoälyyn ja sotaan, sarjan toisessa osassa rauhaan ja kahdessa viimeisessä tarkastelemme tekoälyä ja tiedustelua.

Sodankäynnin etiikkaa ryhdyttiin määrittelemään ja säätelemään Punaisen Ristin aloitteesta 1860-luvulla. Tällöin saivat alkunsa Geneven sopimukset. Nykyisin voimassa olevat Geneven sopimukset ovat vuodelta 1949 ja niihin ovat sitoutuneet kaikki maailman valtiot. Yksi Geneven sopimuksen perusperiaatteista on esimerkiksi, että aseellista voimaa ei saa kohdistaa siviileihin, vaan ainoastaan sotilaskohteisiin. Siviili- ja sotilaskohteiden erotteluperiaatteen ohella muita perusperiaatteita ovat mielivaltaisen toiminnan kielto, inhimillisyys, tarpeettoman kärsimyksen ja liiallisten vammojen aiheuttamisen kielto, suhteellisuusperiaate, petollisuuden kielto ja ympäristön suojelu. Sotateknologiassa, myös tekoälyavusteisessa, on otettava huomioon nämä perusperiaatteet.

Aseet, jotka eivät vaadi ihmisen operointia aseen käytön hetkellä, voidaan jakaa automaattisiin, autonomisiin ja tekoälyä soveltaviin. Esimerkiksi maamiinat ovat automaattisia ja kohteeseensa hakeutuvat ohjukset autonomisia. Tekoälyä hyödyntäviä sovelluksia ovat esimerkiksi tekoälyllä varustetut droonit tai robottitaistelijat. Vahvan tekoälykehityksen tavoitteena on saavuttaa itsenäisesti ajatteleva, oppiva järjestelmä. Monet asiantuntijat epäilevät vahvan tekoälyn kehittämisen mahdollisuuksia, mutta jos tällainen itsenäisesti ajatteleva ase joskus onnistuttaisiin tekemään, kasvaisi aseiden hallitsemattomuus, kun voimankäytön kohde ei välttämättä enää ole aseen suunnittelijankaan tiedossa.

Autonomiset aseet voidaan jaotella kolmeen luokkaan: 1) human in the loop –järjestelmässä asejärjestelmä kohdentaa iskun, mutta ihminen tekee päätöksen laukaisusta, 2) human on the loop -järjestelmässä asejärjestelmä toimii itsenäisesti mutta ihmisellä on mahdollisuus pysäyttää toiminta, ja 3) human off the loop -järjestelmässä asejärjestelmä on itsenäinen, eikä ihmistä tarvita sen toimintaan lainkaan. Pisimmälle tekoälyä soveltavat aseteknologian tekoälysovellukset ovat tällaisia keinoälyn varassa ja ilman ihmisen ohjausta toimivat esimerkiksi miehittämättömät lennokit, jotka uhkaavat muuttaa sodankäyntiä ja hyökkäyssotaa entistä epäinhimillisemmäksi, tai inhimillisemmäksi siinä mielessä, että sodan kärsimysten laajuus minimoidaan täsmäiskuilla.

Autonomiset aseet myös mahdollistavat arvattavasti huomattavasti suurempien riskien ottamisen, koska aseen menettämisessä on panoksena vain taloudellisia tappioita, ei sotilaan menettämistä. Tämä tietysti vaatii ihmistaistelijan arvottamista ylitse sotateknologian. Ei kuitenkaan ole osoitettu aukottomasti, että taistelusta tulisi autonomisten aseiden käytön kautta vähemmän kärsimystä aiheuttavaa taistelijoille. Se lienee kuitenkin selvää, että autonomiset aseet vaativat vähemmän taistelijoita sotaan, koska miljoonaan autonomiseen aseeseen ei tarvita miljoonaa sotilasta, vaan huomattavasti pienempi joukko voi ohjata niitä. Voidaan maalata myös kuvaa tietokonepelien kaltaisista sodista, joissa robottitaistelijat taistelevat toisia robotteja vastaan. Tässäkin sodassa voi kärsimys osua kuitenkin myös ihmiseen.

Tekoälyavusteisen aseen toimintakyvyn määrittämisestä tarjoaa esimerkki antautuvasta kohteesta. Maanpuolustuskorkeakoulun strategian pääopettaja Jaakko Jäntti pohtii: ”Mitä jos haavoittunut vihollistaistelija laskee päänsä ja kätensä? Ihminen voi tulkita eleet antautumiseksi ja ottaa vihollisen vangiksi. Osaako tekoäly tehdä saman tulkinnan?”

Tekoälyä voidaan hyödyntää myös puolustuksen apuna. Tietokone voi esimerkiksi laskea, missä vaiheessa ohjus pystytään vielä torjumaan ja tekemään päätöksen omasuojajärjestelmään liittyvän aseen laukaisusta. Reaktorin johtavan strategin Leo Hengin mukaan tekoälyn ja muun teknologian avulla Suomen olisi mahdollista luoda uskottava puolustus. Tekoälyteknologiat voivat auttaa myös vastustajan toimien havainnoinnissa ja logistiikan ja huoltotoimenpiteiden optimoinnissa.

Viime aikoina huomiota on herättänyt yhdysvaltalaisen Clearview AI -yhtiön kasvojentunnistusohjelmiston käyttö, jota yhtiö on tarjonnut henkilöiden tunnistamiseen. Sosiaalisesta mediasta tietokantaansa keräävällä Clearviewlla on tietokannassaan noin kaksi miljardia sosiaalisen median palvelusta kerättyä kuvaa. Kokonaisuudessaan kasvojentunnistusohjelman kuvahaku pyörii noin kymmenen miljardin kuvan voimin. Sovellusta olisi mahdollista käyttää esimerkiksi kuolleiden tunnistamiseen taistelukentillä helpommin kuin sormenjälkitunnistusta. Sitä voitaisiin käyttää myös perheistään erotettujen pakolaisten yhdistämiseen, agenttien tunnistamiseen ja hallituksen auttamiseen sotaan liittyvien vääränlaisten sosiaalisen median viestien kumoamisessa. Surveillance Technology Oversight Project -järjestön johtajan Albert Fox Cahnin mukaan tällaisen teknologian päästäminen taistelukentille voi kuitenkin johtaa teknologian väärinkäyttöön, kuten siviiliuhreihin tai vääriin pidätyksiin virheellisen tunnistuksen vuoksi.

Clearview AI -yhtiön tekoälysovellus osoittaa kuitenkin datan merkityksen nykyisessä sodankäynnissä. Työelämäprofessori Valtteri Vuorisalo pukee asian sanoiksi siten, että “käynnissä on myös datasota”. Suurvaltakilpailussa teknologialla ja datalla on ollut jo vuosia aivan erityinen rooli. Sotaa käydään sekä fyysisellä että digitaalisella rintamalla kybermaailmassa, jossa sodankäymisen keinot jakautuvat edelleen kahtia: psykologiseen ihmisiin vaikuttamiseen ja fyysisiin tietojärjestelmiin vaikuttamiseen. Kyse on hybridisodankäynnistä, jossa pyritään muokkaamaan ihmisten asenteita ja mielipiteitä, kenties luomaan hajanaisuutta ja eripuraa, uhkia ja pelkoa. Tässä tekoälyavusteiset järjestelmät voivat olla erityisen tehokkaita erilaisen disinformaation luomisessa ja kohdentamisessa. Toisaalta yritetään lamauttaa vastapuolen tietojärjestelmiä esimerkiksi estämällä tiedon kulkua erilaisin kybermaailman keinoin tai katkaisemalla tietoliikenneyhteyksiä fyysisesti.

“What a terrible thing war is, what a terrible thing.”
Tolstoi: Sota ja Rauha

Kirjoittajat: Nina Wessberg, Jaana Leikas, Mika Nieminen, ja Santtu Lehtinen.
Kirjoittajat työskentelevät teknologian tutkimuskeskus VTT:llä.

Kuva: Unplash