Ihminen ja kone – turvallinen vai onneton yhdistelmä? Poimintoja Tieteiden yöstä 20.1.2022
Vaikka teknologisoituneessa yhteiskunnassa koneiden käytöstä aiheutuneita katastrofeja ja onnettomuuksia sattuu harvoin, ovat onnettomuustilanteet ja niistä johdettu tutkimus ehdottoman tärkeitä oppimisen ja teknologian kehittämisen kannalta.
Tieteiden yön toisena ETAIROS-hankkeen osiona kuultiin kolmen esimerkkiä onnettomuuksista, joissa kone on ollut ihmisen apuna tai joissa tekoälystä oltaisiin voitu hyötyä onnettomuuden estämiseksi. Teologian tohtori Raine Haikarainen (Helsingin yliopisto) avasi ilmailuonnettomuutta, teologian tohtori Taina Kalliokoski (Helsingin yliopisto) sairaalan lääkintäonnettomuutta, ja sosiaalietiikan professori Jaana Hallamaa (Helsingin yliopisto) teollisuusonnettomuutta.
Haikarainen aloitti illan osuuden tarkastelemalla Überlingenin kylän yläpuolella tapahtunutta kahden lentokoneen yhteentörmäystä. Onnettomuuteen vaikutti useampi tekijä, mutta keskeinen syy sille oli ihmisen ja koneen välisen kommunikaation epäonnistuminen. Ilmailuonnettomuudet ovat vahvistaneet sitä, että taito- ja määräyspohjaisessa toiminnassa, kuten lentokoneiden automaattisissa ohjausjärjestelmissä, automaatio ja koneet ovat parhaimmillaan, ja toimivat tarkemmin kuin ihminen. Tekoälyllä on suuri rooli ilmailualalla nyt ja tulevaisuudessa, sillä oikein suunniteltuina ne edistävät turvallisuutta tehokkaasti. Ilmailussa on otettu uutta teknologiaa käyttöön kuitenkin varovaisesti ja vasta vaativien hyväksymisprosessien jälkeen.
Kalliokoski esitteli puheenvuorossaan sairaalamaailmassa tapahtuneen inhimillisen lääkintäonnettomuuden, joka johtui muun muassa ihmisen erehdyksestä, pienistä sääntörikkeistä ja potilaan taustojen tietämättömyydestä. Sairaalamaailmassa hoitajan ja lääkärin tulee huomioida useita asioita potilasta lääkitessä ja hoitaessa, ja henkilöstön välisen viestinnän on toimittava saumattomasti. Työntekijät ovat ihmisiä, ja lääkintävirheitä, jotka johtavat pahimmillaan kuolemaan kuten Kalliokosken kuvaamassa esimerkissä, sattuu. Teknologiset apuvälineet, kuten lääkkeiden ja potilasrannekkeiden viivakoodit sekä sähköiset reseptijärjestelmät vähentävät tutkimusten mukaan virheitä. Lääkintää ja sairaanhoitoa ei voida kuitenkaan täysin perustaa automatisoidulle tekoälylle, sillä ihminen orgaanisena olentona reagoi yksilöllisesti hoitoon toisin kuin esimerkiksi ohjelmoidut mekaaniset lentokoneet käskyihin. Teknologiasta lääkintäalalla voidaan saada silti huomattavaa apua ihmisen toiminnalle.
Hallamaan puheenvuoro päätti illan, ja hän pureutui Deepwater Horizon -öljynporauslautalla tapahtuneeseen ympäristöonnettomuuteen. Tapaus havainnollisti sitä, miten ihmisellä on aina rooli tekoälyn käytössä, ja miten koneet harvoin itsessään aiheuttavat onnettomuuksia. Deepwater Horizonin katastrofi johtui ihmisen toiminnasta paikan päällä onnettomuusiltana, onnettomuutta edeltävinä kuukausina sekä pohjimmiltaan yrityksen ylimmältä tasolta poikineesta piittaamattomuuden kulttuurista sekä paineesta tuotannon tehokkuuteen. Onnettomuutta ei toki olisi tapahtunut ilman teknologiaa, mutta vastuu oli ihmisen toiminnalla – järjestelmän riskitekijöistä ja onnettomuutta enteilevistä merkeistä ei piitattu. Lisäksi turvallisuusohjeistuksia ei ollut tarjottu tarpeeksi, minkä vuoksi lautan henkilöstö ei osannut käyttää hälytysjärjestelmiä uhkatilanteessa.
Kolme esimerkkiä kuvaavat hyvin teknologian ja tekoälyratkaisujen rajallisuutta – sitä, miten viime kädessä vastuu on ihmisellä. Koneet tarjoavat monille aloille ratkaisuja, jotka havaitsevat ja reagoivat paremmin kuin ihminen. Ihmisen tulee kuitenkin tuntea koneen toiminta läpikotaisin, sekä tietää miten sitä ohjataan. Kuten Haikarainen totesi puheenvuorossaan: kun asioita tulee hahmottaa tiedolla, symbolisesti ja arvopohjaisesti, ihminen on vaikeasti korvattavissa.
