Puheenaihe

Sodankäynnin uusi riski huolettaa tutkijaa – "Osaako tekoäly tulkita, jos vihollinen haluaa antautua?"

ASEET Tulevaisuuden aseet etsivät vihollisia itsenäisesti ja reagoivat yli-inhimillisen nopeasti. Toisaalta ne eivät toimi vihasta tai kostonhalusta.

Kone voi olla eettisesti ihmistä parempi toimija. Sen toimintaan ei vaikuta esimerkiksi mikään aiemmin koettu asia.

Juha rika

Sotateollisuus kehittää vauhdilla autonomisia asejärjestelmiä, jotka kykenevät osittain tai jopa täysin itsenäiseen toimintaan. Näitä aseita kuvataan joskus termillä tappajarobotit.

Autonomiset aseet ja tekoälyn nopea kehitys herättävät vaikeita eettisiä kysymyksiä: Kuka on vastuussa, jos autonominen ase käyttää liiallista voimaa? Onko vastuu tekoälyn ohjelmoijalla, aseen rakennuttajalla vai aseiden käytöstä päättäneellä komentajalla? Entä erottaako kone taistelijan siviilistä?

Turun yliopiston filosofian professori Juha Räikkä huomauttaa, että eettisen pohdinnan kannalta autonomisten ja perinteisten aseiden välillä ei ole niin suurta eroa kuin usein ajatellaan.

– Meillä on ollut jo pitkään monia aseita, jotka eivät ole täysin ihmisen kontrollissa, Räikkä sanoo.

Minkä tahansa aseen käyttöön taistelutilanteessa liittyy kaksi eettistä vaatimusta. Ensimmäinen on erotteluperiaate, jonka mukaan taistelijat täytyy pystyä erottelemaan siviileistä. Suhteellisuusperiaatteen mukaan voimankäyttö täytyy suhteuttaa tavoitteeseen. Kokonaisen korttelin tuhoaminen muutaman vihollistaistelijan tappamiseksi on esimerkki suhteettomasta voimankäytöstä.

– Siviilien suojelu puolestaan on nykyisinkin hankalaa, sillä usein sotilaskohteet sijoitetaan tarkoituksella siviilikohteiden läheisyyteen, Räikkä toteaa.

Asejärjestelmät voidaan jakaa kolmeen luokkaan: automaattisiin, autonomisiin ja tekoälyä hyödyntäviin.

– Esimerkiksi kaikki ansat ja miinat ovat automaattisia aseita. Kun ne on kerran asennettu, ne eivät tarvitse ihmisen ohjausta, kertoo Maanpuolustuskorkeakoulun strategian pääopettaja Jaakko Jäntti.

Autonomiset aseet pystyvät havainnoimaan ympäristöään ja paikantamaan kohteen. Esimerkiksi käyvät maaliin hakeutuvat ohjukset.

Tekoäly voi tuoda mukanaan aivan uuden tilanteen. Jäntti nostaa esiin niin kutsutut vaanivat aseet.

– Vaanivia aseita ovat esimerkiksi lennokit ja miinatorpedot. Esimerkiksi jotkin lennokit voivat pysyä liikkeellä määritellyllä alueella pitkiäkin aikoja. Kun oikea maali löytyy, ase osaa hyökätä sitä vastaan, Jäntti toteaa.

Asia mutkistuu, kun autonomiset aseet kykenevät oppimaan itsenäisesti. Tämä voi johtaa tilanteeseen, jossa edes aseen suunnittelija ei voi tietää, millä perusteella järjestelmä myöhemmin tekee päätöksensä voimankäytöstä.

Koneet voivat kuitenkin olla myös eettisesti ihmisiä parempia toimijoita. Faktakone ei toimi vihan tai katkeruuden vallassa, se ei halua kostaa aiempia koettuja vääryyksiä, eikä sitä voi lahjoa tai uhkailla. Kone ei myöskään tee virheitä väsymyksen tai stressin takia.

– Jos uudet aseet ovat riittävän kehittyneitä, niiden käyttöä voidaan tässä mielessä puolustaa eettisesti. Koneella ei ole samoja ihmisyydestä kumpuavia motiiveja, jotka ovat monien sotarikosten taustalla, Räikkä toteaa.

Toisaalta koneet eivät välttämättä osaa arvioida vaihtuvia tilanteita ja ihmisten motiiveja riittävän hyvin.

– Mitä jos haavoittunut vihollistaistelija laskee päänsä ja kätensä? Ihminen voi tulkita eleet antautumiseksi ja ottaa vihollisen vangiksi. Osaako tekoäly tehdä saman tulkinnan? Jäntti pohtii.

Tekoälyn ohjaamat taistelurobotit voivat vähentää ihmisuhrien määrää, mutta ne voivat myös alentaa kynnystä voimankäytölle.

– Jos omalle puolelle ei tule ihmisuhreja, kannustin voimankäyttöön voi kasvaa. Tämän seikan kanssa täytyy olla varuillaan, Räikkä toteaa.

Tekoälyä hyödyntävät ja teknisesti entistä kehittyneemmät aseet tuovat selkeitä taktisia ja strategisia etuja sodankäyntiin.

– Koneet ovat monessa suhteessa ylivertaisia ihmiseen nähden, esimerkiksi päätöksentekonopeudessa. Autonomiset aseet myös mahdollistavat huomattavasti suurempien riskien ottamisen. Koneen voi ohjelmoida taistelemaan viimeiseen patruunaan asti välittämättä sen omasta turvallisuudesta, Jaakko Jäntti toteaa.

Autonomisten aseiden kuten esimerkiksi lennokkien rakentaminen on huomattavasti edullisempaa ja nopeampaa kuin hävittäjälentäjän kouluttaminen.

– Satojen lennokkien parvesta osa voi toimia harhautuksena, kun pieni joukko tuhoaa kohteen, Jäntti sanoo.

Lennokkien ohjaaja voidaan siirtää kauas taistelutilanteesta, jolloin hän voi paremmin hallita kokonaisuutta.

– Toistaiseksi ihminen on parempi tekemään näitä isoja päätöksiä. Ihminen kykenee myös muokkaamaan strategiaa, jos tilanne sitä vaatii.

Tähän autonomiset asejärjestelmät eivät vielä kykene.

Autonomisten asejärjestelmien käytöstä ja rajoituksista ei ole laajasti hyväksyttyä kansainvälistä sopimusta, vaikka asiasta on keskusteltu YK:ssa asti.

Vuonna 2015 joukko tekoälytutkijoita ja muita intellektuelleja julkaisi avoimen kirjeen, jossa varoitettiin uusien aseiden vaaroista. Allekirjoittaneiden joukossa olivat muun muassa edesmennyt Stephen Hawking, Teslan ja SpaceX:n toimitusjohtaja Elon Musk ja Berkeleyn yliopiston professori, tekoälytutkija Stuart Russell.

Suurvallat,kuten Yhdysvallat, Kiina ja Venäjä, suuntaavat tällä hetkellä paljon resursseja autonomisten aseisiin ja tekoälyyn.

– Putin tokaisi jokin aika sitten, että se joka hallitsee tekoälyä, hallitsee maailmaa, Jäntti sanoo viitaten Venäjän presidentti Vladimir Putiniin.

Muutama vuosi sitten Yhdysvallat laski vesille Seahunter-aluksen, joka ei tarvitse lainkaan miehistöä. Seahunterin tehtävänä on metsästää sukellusveneitä, ja arvioiden mukaan se kykenisi seilaamaan merillä itsenäisesti useiden kuukausien ajan.

Saksa käyttää Mantis-ilmapuolustusjärjestelmää, joka ampuu automaattisesti alas ohjuksia ja reagoi yli-inhimillisen nopeasti.

Asejärjestelmien autonomisuuden asteessa on kolme eri luokkaa: Ensimmäisessä luokassa ase voi teknisesti toimia itsenäisesti, mutta se vaatii aina ihmisen päätöksen toiminnan aloittamisesta.

Toisessa luokassa ase toimii itsenäisesti ohjelmointinsa perusteella, ellei ihminen keskeytä toimintaa.

Viimeisin luokka on täysin autonominen järjestelmä, joka toimii ilman ihmistä.

– Itse en näe syytä täydelliselle autonomialle. Ihminen ymmärtää, mitä tappaminen tarkoittaa. Tästä syystä en usko, että ihmistä halutaan siirtää pois ohjaimista, Jäntti sanoo.

Entäpä Suomi? Pienellä maalla ei ole suurvaltojen resursseja kehittää tekoälyä hyödyntäviä aseita.

– Oma ajatukseni on se, että meillä täytyy olla kyky vastata uhkaan, jos tällaiset järjestelmät lisääntyvät lähialueilla, Jäntti toteaa.

Mitä tunnetta artikkeli sinussa herättää? Ilmaisemalla tunteesi näet toisten reaktiot.

Lisää aiheesta

Myös riskinotto onnistuu taistelurobotilta – "Monessa suhteessa ylivertaisia ihmiseen nähden"7.4.2019 19.40

Etusivulla nyt

Uusimmat: Puheenaihe

Luetuimmat

Uusimmat

Uusimmat: Urheilu