Voiko ihminen luottaa tekoälyyn?

Millainen vastuu on tekoälyn ja algoritmien suunnittelijoilla, joiden kehittämien järjestelmien sisällöistä hallinnossa työskentelevät eivät välttämättä ymmärrä juuri mitään? Miten tekoäly vaikuttaa ihmisten käyttäytymiseen ja yhteiskunnan muutokseen? Onko tekoälyllä paikkansa ilmastonmuutoksen tai köyhyyden torjunnassa? Tekoälyn eettisiä kysymyksiä pohditaan myös sodankäynnin näkökulmasta. Mikä on eurooppalaisten arvojen rooli Venäjän, Kiinan ja Yhdysvaltojen rinnalla, kun tekoälylle asetetaan rajoja? Hennin kanssa keskustelemassa tekoälystä, etiikasta ja autonomisista aseista ovat filosofi ja tietokirjailija Maija-Riitta Ollila ja data-analyytikko Wolf Wikgren Valtiokonttorista.

What is Tiedon luo?

Valtiokonttorin Tiedon luo -podcastissa Henni Purtonen johdattaa kuuntelijat pohtimaan tulevaisuuden työelämää, luovuutta sekä dataan ja algoritmeihin liittyviä ajattelun vinoumia, hallinnonalojen välistä yhteistyötä ja erilaisia vastuukysymyksiä. Jokaisessa jaksossa vieraiden kokemukset ja havainnot maailmasta kehystävät jotakin ajankohtaista yhteiskuntaan tai työelämään liittyvää aihetta. Henni juttelee vieraiden kanssa myös rohkeudesta, tulevaisuudesta ja johtamisesta.

I Statskontorets tvåspråkiga Tiedon luo -podcast tar Henni lyssnarna med på en resa där man utforskar framtiden för arbete, kreativitet samt snedvridningar av tänkandet gällande data och algoritmer, interaktion mellan förvaltningsområden och olika slags ansvarsfrågor. I varje avsnitt bidrar gästernas erfarenheter och observationer av världen till att rama in ett visst ämne med anknytning till samhället eller arbetslivet. Med gästerna pratar Henni också om mod, framtid och ledarskap.

Valtiokonttorin Tiedon luo -podcast, tuotantokausi 2
Jakso 10: Maija-Riitta Ollila ja Wolf Wikgren

Voiko ihminen luottaa tekoälyyn?

Maija-Riitta: Lopettaisin puhumisen tekoälystä tai edes koneoppimisesta itsenäisenä eettisenä ongelmana. Se mitä tulevaisuudessa tulee tapahtumaan on, että hyvin monenlaiset erilaiset teknologiat jopa fuusioituvat niin, että digitaalinen ja fyysinen ovat eri tavalla tekemisissä keskenään kuin nyt.

Intro: Tiedon luo – keskustelua tulevaisuuden työelämästä ja johtamisesta. Ajankohtaisten ilmiöiden äärelle kuulijat johdattaa Henni Purtonen.

Henni: Mitä tekoälystä ja algoritmeista pitäisi ajatella tai ylipäätään tietää? Miten tekoäly oppii ja kuka lopulta kantaa vastuun jos tekoäly tekee virheellisen päätöksen? Tässä jaksossa selvitetään, mitä tarkoittaa olla ihminen teknologiaan tukeutuvassa maailmassa.
Aiheesta mun kanssa on keskustelemassa filosofi ja tietokirjailija Maija-Riitta Ollila ja data-analyytikko Wolf Wikgren Valtiokonttorista. Tervetuloa mukaan!

Maija-Riitta: Kiitos!

Wolf: Kiitos!

Henni: Voiko algoritmilta vaatia ymmärrystä etiikasta?
Wolf: Se on hyvä kysymys. Tekoälyn hyödyntäjänä ja käyttäjänä mun on vaikea nähdä, että siltä algoritmilta itseltään voi vaatia tällaista ymmärrystä, vaan ehkä ennemmin sen algoritmin suunnittelijalta, toteuttajalta ja lopulta hyödyntäjältä vaaditaan ymmärrystä etiikasta ja sen sovelluksista.

Henni: No mites voidaanko me ajatella, että laadukas data on myös jollain tavalla tekoälyn tärkein raaka-aine? Ja miten tekoälyn eettisyys riippuu sen käyttämästä datasta ja niistä rajauksista, joita sitten tekoälyn ja algoritmien kehittäjät päättävät tehdä?

Wolf: Tekoäly on linssi siihen dataan, mitä hyödynnetään tekoälyä rakentaessa, eli se toisintaa ihan samoja virheajatteluja tai vääristymiä kuin mitä siinä datassa on, jolloin dataetiikka liittyy suoraan siihen tekoälyynkin sovellettavaan etiikkaan. Se tekoäly mitä me tuotetaan on ihan yhtä hyvää ja eettistä kuin se data, mitä käytetään. Se ottaa samoja asioita huomioon, joita sen rakenteessa käytetään.

Henni: Me tiedetään, että koneoppiminen soveltuu hyvin isojen datamäärien analysointiin ja voi tukea ihmistä datapohjaisessa päätöksenteossa antamalla todennäköisyyksiin perustuvia ennusteita. Ihmisten tehtäväksi jää silloin johtopäätösten perustelu ja yksityiskohtien analysointi. Minkälaisia ne eettiset näkökulmat, joita tekoälyn suunnitteluvaiheessa tulisi huomioida? Millaisia ne näkökulmat on?

Wolf: Varmaan samantyylisiä kuin minkä tahansa teknologian kehittämisessä tulee ottaa huomioon.

Henni: No entäs jos me pohditaan, että jos koneoppimisen suunnittelijoiden käsitykset oikeasta ja väärästä on tosi erilaisia, niin minkälaisia ongelmia ja ristiriitoja saattaa syntyä?

Maija-Riitta: Totta kai kenen tahansa kansalaisen käsitykset etiikasta voi erota suuresti hänen naapureistaan. Meillä on monenlaisia tapoja kertoa, mitkä asiat on oikein tai väärin, hyviä tai pahoja. Näitä nimitetään normatiivisen etiikan teorioiksi. Henkilöt, joilla ei omasta mielestään moista teoriaa ole, tosiasiassa on jokin tapa jolla he erottelevat hyvät ratkaisut huonoista. Tavallisimpia ovat velvollisuusetiikka ja seurausetiikka. Kun ajatellaan globaalisti, ei ainoastaan eurooppalaisittain, vaan ajatellaan asioita Kiinan näkökulmasta tai Yhdysvaltojen, huomataan että on valtavia eroja siinä mitä asioita painotetaan ja millä tavalla. Tämä ei ole minun mielestä se kaikkein mielenkiintoisin asia, vaan mielenkiintoisinta on se, missä määrin suunnittelijat pystyvät vaikuttamaan päämääriin. Jos heti lyön korttini pöytään ja kerron mikä minusta on etiikan tärkein asia tällä hetkellä. Minulta pitäisi löytää sen kaltainen tapa elää, joka tekee mahdolliseksi elämän säilymisen tällä pallolla. Ei ainoastaan ihmiselämän vaan kaiken elämän.

Ja nyt haluan Wolfilta tietää, kun suunnittelutehtävä tulee. Pystyykö tosiasiassa kertomaan, että minähän en tähän mainontaa tehostavaan algoritmiin koske kepilläkään, koska se selvästi edistää kulutusta, jota meidän pitäisi pikemminkin hillitä. Tämä nyt yhtenä ääriesimerkkinä. Ajattelen ja nyt testaan tätä ajatusta, että se joka jotakin rahoittaa ja tilaa pääsee varmaankin päättämään päämääristä.

Wolf: Se on varmasti totta, että se rahoittava taho on loppupelissä aina se päämäärän asettaja. Se, että kuinka paljon suunnittelijana pääsee kriittisesti suhtautumaan päämäärän asettamiseen, riippuu varmasti paljon tilanteesta. Kuinka paljon yksilönä pääsee vaikuttamaan etiikkaan, jos ympäristö ei ole samaa mieltä yksilön kanssa. Työryhmissä näitä muodostetaan, ja se on ryhmän etiikka, jota teknologia peilaa, ei yksilön etiikka. Siinä mielessä varmasti korostuu tarve keskustella suunnitteluporukassa tai kontekstissa, jossa tekoälyä tai algoritmia kehitetään. Myös ehkä kriittisesti suhteessa tilaavaan ja maksavaan tahoon. Valtiolla työskennellessä tämä on erilainen asetanta, että mistä raha tulee, kun markkinointia ei tuoteta samalla tavalla ainakaan meidän toiminnassa.

Maija-Riitta: No, se oli tahallaan kärjistetty esimerkki. Usein keskustellaan siitä, mikä ovat tapoja kehittää ja käyttää vastuullisesti tekoälyä. Keskustellaan sovellusten luonteesta. Harvemmin keskustellaan minusta siitä, mikä se isompi kuva on yhteiskunnallisesti. Minkälaista muutosta tässä maailmassa jonkun tekoälytuotteen kehittäminen luo.

Wolf: Se on ihan totta, ja se on keskustelua, jota tulisi käydä. Tämä pätee muuhunkin teknologiaan kuin tekoälyyn. Se on paljon universaalimpi asia kuin tekoäly, joka sattuu olemaan nopeasti kehittyvä teknologinen väline. En tiedä kuinka paljon tästä on keskusteltu vasaroita kehittäessä. Silläkin voi tehdä ikäviä asioita, mutta siinä mielessä sama keskustelu liittyy mihin tahansa teknologiaan.

Maija-Riitta: Vasara on erinomaisen mielenkiintoinen esimerkki, koska se ei yleensä vuorovaikutus sikäli kun ymmärrän nykyvasaroiden toimintaa, vaan ihminen mieltää että se on työkalu jota hän käyttää. Ne tekoälytuotteet, joita me luodaan on meidän kanssa yhdistettynä uudenlainen toiminnallinen systeemi. Me toimitaan siinä systeemissä eri tavalla kuin me toimittaisiin ilman sitä tuotetta. Totta kai se pätee tietyssä määrin kaikenlaisiin kaluihin, jos henkilö lähtee sotimaan ja hänellä on nuija kädessä. Hän on erilainen sotija kuin siinä tapauksessa, että hän harkitsee käyttävänsä ydinaseen laukaisukoodia. Tekoäly on siinä mielessä mielenkiintoinen pelikaveri, että sen kanssa yhdessä toimittaessa se vaikuttaa ihmisen toimintaan.

Henni: Ja jotenkin myös se, että miten suurina tekoälyn mahdollisuudet nähdään, vaikuttaa siihen, miten päättäjät investoivat rahaa teknologiatutkimukseen ja mitä tutkijat alkavat tämän myötä painottaa kilpaillessaan rahoituksesta. Myös pääomasijoittajillahan on myös tosi paljon vaikutusvaltaa siihen, mitä ongelmia maailmassa ratkotaan ja mitä teknologioita otetaan käyttöön lähitulevaisuudessa. Maija-Riitta, mainitsit ilmiöistä ja megatrendeistä, niin voiko tekoäly ratkaista esim. ilmastonmuutokseen liittyviä isoja maailmanlaajuisia ongelmia? Ja sitten kun miettii, että teknologiat on tosi paljon päällekkäin niin voiko se jopa mutkistaa sitä kokonaisuutta?

Maija-Riitta: Pieni kielellinen pointti, johon tekee mieli tarttua

Henni: Tartu ihmeessä.

Maija-Riitta: Olen hyvin tarkka siitä mitä me nimitetään toimijoiksi, koska kaikki lähtee moraalifilosofiassa toimijasta. Toimija on se, joka jotakin aikoo ja aiheuttaa ja toimijaan voi liittää vastuita. Ja nyt, kun kysytään voiko tekoäly pelastaa maailman, niin se on aika paljon vaadittu. Se tekee tekoälystä toimijan ja tästä on hassunkurisia esimerkkejä, jotka ei mokamaa tekoälyä suuremmin tarvitse. Henkilö sai kelvotonta palvelua ja otti yhteyttä yritykseen ja hänelle sanottiin, että se oli botti, ei voi mitään. Me siirrämme toimijuuden ja vastuun tekoälylle ihan kuin siinä olisi tajunnantiloja ja kyky aikoa ja kyky ottaa vastuuta. Jotkut ovat sitä mieltä, että joskus olemme siellä mutta emme ole siellä kaiketi nyt. Joten jos tämän saan muuttaa keskustelun aloituksessa niin silloin tekoälyä voidaan käyttää erittäin merkittävällä tavalla suurien ongelmien ratkaisussa. Sillä on valtava potentiaali.

Henni: Jos pohditaan tätä meidän nykyistä maailmanpoliittista tilannetta. Koko ihmiskunnan jakamien ydinarvojen löytäminen tuntuu olevan tosi vaikeeta, kun katsoo nykyistä maailmanpoliittista tilannetta. Länsi ja Venäjä elää täysin eri todellisuuksissa. Ja tää kuilu Venäjän ja lännen välillä tulee vuosisatojen takaa. Geopoliittinen köydenveto Ukrainasta päätyi sotaan. Venäjän tekemä informaatiovaikuttaminen on ollut tosi laskelmoivaa peliä. Maija-Riitta, millaisia kysymyksiä sä olet filosofina pohtinut tähän aiheen ympärillä?

Maija-Riitta: Olennainen kysymys on miksi emme ymmärrä toisiamme. Loppuun asti pyrittiin saavuttamaan diplomaattinen ratkaisu, jota ei kyetty löytämään. Yksi syy voi olla että on aidosti täysin eri intressit jotka eivät ole yhteensovitettavissa. Toinen mahdollinen syy on että emme osaa katsoa asioita toisen osapuolen näkökulmasta. Mielestäni on kiinnostavaa, mitä uuswittgensteinilainen Peter Wings 1960-luvun lopulla ehdotti, että eri yhteiskuntien rationaalisuuskäsityksissä voisi olla eroja. Se oli erinomaisen kummallista, koska olin siihen saakka ajatellut, että rationaalisuus liittyy luonnontieteisiin. Jos halutaan matkustaa, kovin erilaista matematiikkaa ja fysiikkaa ei voida käyttää. Kun puhe on yhteiskunnasta niin rationaalisuus merkitsee peli- ja päätösteorian kannalta sitä että päätöksentekijä osaa ottaa huomioon kaikki tekovaihtoehdot ja asettaa ne suosittuimmuusjärjestykseen ja pitää siitä kiinni. Edetä johdonmukaisesti. Ennen sotaa Suomessa todettiin, että Venäjän hyökkäys Ukrainaan ei ole mahdollinen, koska se on epärationaalista ja vastoin Venäjän etua. Otimme omat premissimme ja sijoitimme ne omaan rationaalisuuskaavaan ja päätimme, että on tärkeintä pitää kansan hyvinvoinnista ja kun sota sitä laskee, ei todellakaan tule sotaa. Entä jos lähtökohta on toinen. Jos se on vanhanaikainen valloitussotien lähtökohta, jossa halutaan laajentaa omaa aluetta niin, että se kattaa kaikki kulttuurisesti yhteensopivat alat. Jos tästä tehdään suosituimmuusjärjestys, pidetään siitä kiinni, niin tässä ollaan. Ja me emme ymmärtäneet, että näin voi käydä koska meidän käsitys järkevästä toiminnasta on täysin erilainen kuulemma.

Henni: Se, mikä mua kiinnostaa tässä ajassa ja maailmantilanteessa on, että voisiko tekoäly auttaa eri ideologioita kannattavia ihmisiä myöskin ymmärtämään toisia paremmin?

Maija-Riitta: Sehän on Timo Honkelan rauhankoneen idea. Me emme osaa merkitysneuvotella tai manageerata omia tunteita, vaan tähän tarvitaan kone. Se on nöyryyttävimpiä ajatuksia, joita maailmanhistoriassa on kehitetty. Nyt nähdään hyvin se, mihin asti ihmiset pääsevät, joten voisiko sitten mennä huonommin jos kone järjestää asiat. Mitä mieltä olet, Wolf.

Wolf: En tunne tätä rauhankonetta. Ylipäätänsä mielenkiintoinen idea ja tää rationaalisuuden tarkastelu, jos tekoäly on peili siitä datasta, mistä se muodostuu. Miten tekoälyn kautta tai koneoppivilla malleilla voisi tarkastella rationaalisuuskäsitysten eroa tai ennustamaan tilanteita, joissa ne törmää toisiinsa. Pystyttäisiinkö rakentamaan koneita, jotka auttaisi ymmärtämään laajaa sosiaalisen median diskurssia niin, että me ymmärrettäisiin ennustaa koneiden avulla kohtia joissa näkemykset tulee törmäämään, mitä me ei ihmisenä ehkä nähdä. Viittasit siihen, että Ukrainan sotaa pidettiin mahdottomana tilanteena, mutta olisiko sen joku koneoppinut malli ennustamaan esimerkiksi vain seuraamalla sitä diskurssia mitä siitä on käyty. En ole seurannut sitä ennen sotaa, sen jälkeen sitäkin enemmän Twitteriä doomscrollattu, mutta pystyisikö kone tai koneopitut mallit toimimaan meille apuna sen identifioimiseksi.

Maija-Riitta: Se on kiehtova ajatus, koska sosiaalinen todellisuus on äärettömän monimutkainen ja eri toimijoiden välillä on valtavasti. Jos olisi malli, jossa voitaisiin tarkastella yhteyksiä ja käyttää dataa jota ihmisaivo ei voi käsitellä, miksi ei. Samalla voisi ratkaista yhden vanhan oikeudenmukaisuuteen liittyvän ongelman: ihminen tarkastelee asioita aina jostakin näkökulmasta. Jota voisi olla täysin oikeudenmukainen, pitäisi tietää kaikkiin asioihin vaikuttavat näkökulmat ja faktat.

Henni: Se tuntuu aika mahdottomalta tehtävältä.

Maija-Riitta: Tähän asti olen sanonut, että oikeudenmukaisuuden toteutumiseen tarvitaan jumala, kaikkinäkevä ja tietävä. Tekonologiaoptimistit sanovat, että ei hätää tekoäly on tulossa.

Wolf: Tää kysymys tästä onko se Lapplaseen demoni -ajatus siitä, että vaikka me tiedettäisiin jokaisen partikkelin jokainen asento niin pystytäänkö me silti ennustamaan ja tietämään maailmasta etukäteen mitään. Vaikka meillä olisi täydellinen objektiivinen data ja siitä rakennettaisiin malli, niin pystyttäisiinkö me siltä ennustamaan todenmukaisesti vai asetettaisiinko me siihen siltä joku meidän oma projektio, jos me suunnitellaan siihen se malli kuitenkin.

Maija-Riitta: Ihminen joka tapauksessa suunnittelee. Kun sanotaan että kone oppii, onko se totta vai onko niin että ihminen oppii.

Henni: Kuka oppii ja keneltä.

Wolf: Kyllä. Kyllä.

Henni: Erilaiset valemediat on pyrkineet hajottamaan länsimaita sisältäpäin kylvämällä polarisaatiota eri ihmisryhmien välille ja ympäri Eurooppaa sitä on tapahtunut jo tosi pitkän aikaa. Mitä meidän tulisi tavallisina kansalaisina ymmärtää tällaisesta vaikuttamisesta?

Maija-Riitta: Ilmiö ei ole uusi. Matti Nojonen kirjoitti aikanaan kirjan Jymäyttämisen taito, joka kuvaa ilmiötä vanhojen kiinalaisten näkökulmasta. He opettivat harhauttamista sodankäynnissä. Sitten on vanha tuttu venäläinen maskirowka, harhauttamisen tapa, joka on pitkään keskusteltu. Siinä suhteessa ei mitään uutta. Uusi asia on se, että sosiaalinen media tekee mahdolliseksi jokaiselle olla osapuoli. Pystyykö erottamaan deepfake-videot aidoista, pystyykö erottamaan trollauksen vilpittömistä näkemyksistä. Voi viedä eteenpäin jotakin agendaa joka pirstauttaa yhteiskuntaa tai voi tuoda jonkin rakentavan panoksen. Missä määrin ihminen pystyy vaikuttamaan, riippuu siitä, miten ymmärtää algoritmien toimintaa esim. sosiaalisessa mediassa. Kun on tarkoitus saada ihminen viipymään jonkin tietyn tuotteeseen käyttäjänä ja tiedetään, että negatiivisuus kiinnostaa enemmän kuin positiivisuus. On selvää, miten ihmiset saadaan addiktoitumaan johonkin viestiin. Ymmärtääkö sen vai meneekö virran mukana ja vahvistaa trendiä.

Wolf: Kun myös viestintä tapahtuu sosiaalisessa mediassa, niin se on lopulta yksinkertaistus tavasta viestiä. Viestinnästä muodostuu yksinkertaisempi optimointiongelma koneelle kuin keskustelusta ihmisten välillä. Voidaan mallintaa viestintäympäristöä ja tiedetään mitkä viestit saa enemmän tykkäyksiä, jolloin voidaan teoreettisesti rakentaa koneita, jotka voi rakentaa viestejä, jotka tiettyihin viitekehyksiin toimii. hankalampaa se olisi keskustelussa. Ehkä kasvonilmeistä pystyn sanomaan, että tää viesti meni läpi ja toi viesti ehkä ei, mutta sosiaalisessa mediassa se on mitattavissa missä viivyttiin pidempää ja mitkä asiasta herättää keskustelua. Voidaan mittaroida ja rakentaa malli, joka polarisoi. Me pystytään tuottamaan koneella sisältöä joka ainakin teoriassa mene hyvin läpi tietylle viitekehykselle ihmisiä ja vähitellen eriyttämään sitä mielipidettä tietyssä kohortissa ihmisiä. Näin niin, kun periaatteessa.

Maija-Riitta: Aivan ja samaan aikaan kun saadaan ihmisistä henkilökohtaista dataa, me tiedetään, minkälainen profiili heillä on ja pystymme vielä kohdentamaan, että juuri tämä henkilö saa juuri tällaista viestintää ja hän on täysin koukussa.

Wolf: Näin ainakin teoriassa.

Maija-Riitta: Aika usein näyttää siltä jopa käytännössä. Kun keskustellaan siitä, kuinka mielekästä on järjestää kansanäänestys nyt esim. Suomen Nato-jäsenyydestä keskusteltaessa. Joku uskalsi olettaa, että me suomalaiset olemme fiksumpia kuin he, jotka äänestivät Brexitistä tai he jotka presidentinvaaleissa äänestivät Donald Trumpia. vaikka on arvioitu, että voimakasta vaikuttamista sovellettiin silloin sosiaalisen median kautta, mutta kyllä me fiksut suomalaiset pystymme tähän hanskaamaan. Hiukan epäilen. tämä mekanismi on niin tehokas, että vaatii kokopäiväistä valveilla oloa, ettei lähde siihen mukaan.

Henni: Kuinka paljon meitä jo nyt kontrolloidaan modernin teknologian avulla ilman, että me tiedostetaan sitä?

Maija-Riitta: Filosofi sanoisi, että määrittele kontrolli. On kontrollia, jota esimerkiksi Kiinassa tekoälyn avulla harrastetaan ja sitten on kontrollia, jota itse koen käyttäessäni kännykkää. Mikä valtava avuttomuuden tunne, jos se jää kotiin, kun lähtee liikenteeseen. Kyvyt joita itsellä on lähes rajattomasti loppuu siihen paikkaan. Kaikki yhteydet millä ihminen nykyisin orientoituu, sitä ei yhtäkkiä ole. Se ei ole kontrollia siinä mielessä, että voin toki jättää sen pois, voin sanoutua irti tästä kaikesta, kuten monet ihmiset sen tekevät. Hienon hienoa ohjailua on siihen suuntaan, että on syytä pysyä tämän kaiken kännykän kautta tapahtuvan toiminnan keskiössä. En tiedä miten te tämän koette?

Wolf: Voimakkaasti kyllä samalla tavalla. Teknologia kontrolloi monella tapaa emootioita esim. mielihyvän tunteita, joita saa televisiota katsomalla. Ne on sitä, että teknologia jollain tavalla määrittää sitä miten me ollaan maailman kanssa yhteyksissä. Mobiililaitteet ja tällaiset on erityisen mielenkiintoinen kohde, koska siellä tulee pinnan alla toimivaa algoritmiikkaa. Totta kai televisiossa tulee ohjelmat tietyiltä kanavilta tietyssä järjestyksessä, jolla pyritään vaikuttamaan siihen mitä me katsotaan. Vastaavalla tavalla kaikki mitä meidän puhelimessa tapahtuu suunnitellaan enemmän tai vähemmän addiktoivaksi kuvittelisin tarkoituksena nostaa käyttöä applikaatioissa. Se monistuu, mikä on mielenkiintoinen asia kanssa. Jos jokainen asia meidän puhelimessa huutaa meidän huomiota, miten me pystytään vastaamaan siihen. Se on helposti ehkä hävitty se taistelu.

Maija-Riitta: Mielenkiintoista, että käytit suunnittelusanaa. Se tulee myös toisessa merkityksessä itselle mieleen. Arkipäivän ja elämän suunnittelu on täysin kännykän varassa. On paastoappi, on totta kai kuntokouluappi, on ruokaohjeet ja ruokaohjelmat… eihän kukaan voi syödä tuosta vaan suunnittelematta sitä huolellisesti. Varmaan kymmeniä samaan tarkoitukseen liittyviä appeja. Sen takia koko elämä sitten luhistuu ja yhtäkkiä siitä katoaa rakenne, jos kännykän kalenterista ei näe mitä tapahtuu viidentoista minuutin päästä.

Henni: Mutta onko algoritmi erehtynyt teidän kohdalla joskus?

Wolf: Aivan jatkuvasti, kun mä koitan avata iPhonea mun naamalla. En mä tuppaa saamaan…mulla on niin paljon partaa et en mä saa sitä auki. Tää ei ehkä ollut sellainen esimerkki mitä sä kaipasit tähän. Sori…

Henni: Toi oli hauska. Toi oli tosi hauska. No siis mulla on toi sama iPhonen kanssa, että aina ei tunnista. Aurinkolasien kanssa välillä tunnistaa, mutta sitten välillä tulee hetkiä, että joutuu näppäilemään sitä koodia. Kyllä se vähän turhauttaa.

Maija-Riitta: Alan nyt jo epäillä, että tässä iPhonessa on enemmän oivallusta takana kuin tulee ajatelleeksi, koska iPhonella on tapana juoksuttaa minua maastossa…

Henni: Aijaa?

Maija-Riitta: Käytän karttapalvelua. Se tietää aivan ilmiselvästi ja on tavattoman hauska sitten antaa mielenkiintoisia ohjeita, jolloin täti hätääntyy entistä pahemmin.

Musiikki

Henni: Hei siirrytään vielä, palataan maailmanpoliittiseen tilanteeseen ja puhutaan autonomisista aseista vähän tarkemmin. Nehän on tekoälyn näkökulmasta tosi iso oma alueensa. Ajatus täysin tekoälyn hallinnassa olevista aseista on tosi pelottava. Jos me mietitään sitä sodankäynnin tulevaisuutta ja autonomisia asejärjestelmiä, joihin liittyy valtavan isoja eettisiä ja moraalisia kysymyksiä. Autonomia on vahvasti mukana asetekniikan kehityksessä jo tänä päivänä, mutta mitä ne autonomisia piirteitä omaavat asejärjestelmät oikeastaan on, ja millaisia eettisiä kysymyksiä niihin liittyen olisi hyvä pohtia tällä hetkellä?

Maija-Riitta: Ensimmäinen on autonomia. Missä vaiheessa me nähdään jokin järjestelmä autonomisena. Tavallisesti sanotaan, että ihmisen pitää olla mukana päätöksentekoketjussa. Sitten on kysytty, että tarkoittaako se sitä, että ihmisellä on todellista määräysvaltaa. Jos algoritmi tekee todelliset laskelmat, jotka tarvitaan johonkin tiettyyn päätökseen käyttää asetta tietyllä tavalla, eikä ihminen pysty siinä hädässä tarkistamaan, onko laskelma johdonmukainen. Mitä tarkoittaa, että siinä on ihminen päätöksentekoketjussa. Taustalla on ajatus siitä, että kun ihminen käyttää asetta, se olisi jollain tavalla inhimillistä. Varaamme sanaan inhimillinen kaikki piirteet, joita todelliseen ihmisyyteen liittyy.
Kun nyt katsomme, kuinka suhteellisen alkeellisia asejärjestelmiä on käytetty, tekisi mieli kysyä ihmiseltä, että miten noin niin, kun omasta mielestä meni. Kaikki kunnia pyrkimykselle kontrolloida autonomisia aseita ja miettiä tarkkaan niiden kehittämisestä. Todellakaan ihmisten päätöksentekoon liittyvä aatejärjestelmien käyttö ei näytä täydelliseltä. Nyt on todella ensin kiinnitettävä huomiota siihen, miten ihmiset toimivat ja sen jälkeen siirrytään suremaan autonomisten aseiden kehittämistä.
Henni: Yhtenä uhkana nähdään, että autonomisten aseiden kehittämisessä se, että se voi johtaa samantapaiseen kilpavarusteluun, joka vallitsi kylmän sodan aikana suurvaltojen välillä. Mua kiinnostaa kysyä, mitä te ajattelette, että voiko autonomiset asejärjestelmät laskea kynnystä aloittaa aseellinen konflikti?

Wolf: Se on mielenkiintoinen kysymys. En ole sodankäynnin asiantuntija missään nimessä, mutta kyllä se varmasti vieraannuttaa siitä käytettävästä väkivallasta. Moni muukin esim. kielenkäyttö sodassa pyrkii vieraannuttamaan siitä tappamisesta. Puhutaan eliminoinnista. Voihan sillä olla samanlainen vaikutus, että se vieraannuttaa siitä konkreettisesta tekemisestä. Kyllä mä voin nähdä että sillä saattaa olla kynnystä madaltava ominaisuus.

Maija-Riitta: Tämä on tärkeimpiä argumentteja autonomisia aseita vastaan. On esitetty skenaarioissa, että ensin henkilö tekee tietokonepelin kaltaisen aparaatin kanssa työt ja lähtee kotiin illalliselle ja tilalle tulee toinen iltavuoroon jatkamaan sotimista. Ollaan todella kaukana siitä, mitä tosiasiallinen tappaminen tarkoittaa. Kriitikot ovat huomauttaneet, että myös sotilaskoulutuksessa on tarkoitus voittaa ihmisen tuntema luontainen vastenmielisyys tappamista kohtaan. Olemme altruistinen laji pohjimmiltaan ajattelevat monet, mutta meidät voidaan valitettavasti kouluttaa toimimaan toisin. Etäännyttäminen on kahdella tasolla ongelma: potentiaalisen aseistuksen osalta ja tämänhetkisen inhimillisen suuntautumisen kannalta.

Henni: Entä kenellä on vastuu, jos autonomisesti toimiva ase syyllistyy esimerkiksi siviilien surmaamiseen? Ja kenellä on vastuu niin, kun siellä aseen ohjelmoijalla, sen operaattorilla vai sitten tän joukko-osaston komentajalla? Kuka sitten loppupelissä on se ihminen, se toimija, joka vastaa siitä?

Wolf: Mielenkiintoinen kysymys. Varmasti vähän kaikilla näistä. Loppupelissä varmasti joku päättää sen aseen käytöstä ja siellä varmasti syntyy jonkinlainen vastuu. Tottakai jos siinä on algoritminen virhe, niin silloin on nähtävä, että algoritmin suunnittelijalla on vastuu myös. Sitä varmasti puidaan siinä vaiheessa, kun tilanne on. En näe, että se mitenkään on yksiselitteinen se vastuun käsite. Päätöksen joku tekee lopulta, varmastikin ihminen, vaikka toiminto olisi autonominen.

Maija-Riitta: Filosofiassa yritetään kehitellä jaetun vastuun käsitettä. Jossain vaiheessa sen täytyy tulla lainsäädäntöön. Emme ole tottuneet näin monimutkaiseen vastuunjakoprojektiin, jossa on vaikea allokoida vastuuta tavalla, jolla sitä on tähän asti ajateltu.

Henni: Jos olisitte eettisen tekoälyn kehittäjiä, niin millaista tekoälyä te kehittäisitte ja millaista keskustelua moraalista te toivoisitte, että tän tekoälyn ympärillä käytäisiin?

Maija-Riitta: Jälkimmäiseen kysymykseen on helpompi vastata, eli lopettaisin puhumisentekoälystä tai edes koneoppimisesta itsenäisenä eettisenä ongelmana. Se mitä tulevaisuudessa tulee tapahtumaan, on se, että monenlaiset erilaiset teknologiat fuusioituvat. Digitaalinen ja fyysinen ovat eri tavalla tekimisissä keskenään kuin nyt ja on suuri houkutus tehdä keskustelusta yksinkertaista ja nyhtää sieltä irti yksi osa-alue eli tekoäly. Jos halutaan ennakoida tulevaisuutta, niin silloin pitäisi jo nyt keskustella siitä, mitä tapahtuu, kun eri teknologiat kohtaavat. Bioteknologian tuotokset, nanoteknologia, joten tekoäly on osa kokonaisuutta, joka tulee vaikuttamaan monella tavalla ihmisten terveyteen, ihmisten energiankäyttöön ja ennen kaikkea kestävään kehitykseen.

Wolf: Ja jos puhutaan sitten taas sieltä sen osa-alueen, että millaista tekoälyä lähtisi kehittämään, niin itse ainakin näkisin, että sellaista, josta pystytään mahdollisimman paljon tulkitsemaan sen sielunelämästä. Pystyttäisiin tulkita sitä, miten se toimii, että ymmärrettäisiin sitä paremmin. Se on mielenkiintoista, kuinka paljon käytetään resursseja siihen, että pyritään ymmärtämään tekoälyä paremmin. Sitä ymmärrystä olisi kiinnostava hyödyntää enemmän ympäröivään maailmaan. Kun tulkitaan sitä, miten tekoäly ajattelee. Miten pystytään siirtämään pohdintaa siihen, miten muut järjestelmät maailmassa toimii. Miten vaikka eläimet ajattelee tai oppimaan maailmasta enemmän tekoälyn tarkastelun kautta. Ehkä myös pohtia sitä, miten tekoäly kytkeytyy laajemmin fyysiseen maailmaan ja meidän ympäristöön.

Maija-Riitta: Nyt Wolf käsittelet juuri sitä mielenkiintoista asiaa, joka on etiikassa ilmestynyt uutuutena, kun on puhuttu tekoälyn kehittämisestä. Keskitason periaatteet etiikan osalta on lainattu bioetiikasta ja sovellettu lääketieteeseen. Uutuutena on sielunelämän tarkastelu eli selitettävyys. Jotta voitaisiin todella päästä kiinni siihen, mikä todella on olennaista, niin pitäisi olla sielunelämän selitettävyys. Siitä voisi laajentaa muuhunkin luontoon. Kiinnostava pointti.

Henni: Ja tässä me havaitaan, että me puhutaan tosi isoista vuorovaikutussuhteista ja miten kaikki loppupelissä liittyy kaikkeen, ja tulee palon eri ilmiöiden kitkeytymistä toisiinsa, asioiden, toimijoiden ja ihmisten … tää on ihan valtavan iso kokonaisuus, mitä me ollaan tässä jaksossa pohdittu. Viimeisenä mä kysyisin vielä teiltä, että minkälaista johtajuutta te toivoisitte, että tässä tekoälymaailmassa olisi tällä hetkellä.

Maija-Riitta: Nyt erittäin paha kysymys, koska joku psykologi saattaisi sanoa, että minulla on auktoriteettiongelma. Olen sitä mieltä, että auktoriteetti on muilla, jotka aina edellyttävät, että jossakin on aina joku suuri johtaja, joka johdattaa meidät oikealle tielle. Auktoriteettiongelmaisen vastaus tähän kysymykseen on se, että tarvitaan entistä vahvemmin jaettua johtajuutta, jossa mahdollisimman moni ottaa asiakseen tulla mukaan tähän keskusteluun. Aikanaan joku vitsiniekka lohkoi, että demokratiasta ei tule mitään koska se vie liian monta ilmaa. Uskoisin, että hyvin monella ihmisellä olisi kiinnostusta, kun on kanavia ja keskustelukumppaneita, joten nyt on aika nousta tasolle, jossa itse kukin otamme vastuuta ja osallistumme johtamiseen.

Wolf: Täysin samaa mieltä, yhteistä vastuuta ja vastuunottoa sekä toteuttajien, suunnittelijoiden että hyödyntäjien parissa.

Henni: Iso iso kiitos tästä keskustelusta, Maija-Riitta Ollila ja Wolf Wikgren.

Wolf: Kiitos.

Maija-Riitta: Paljon kiitoksia.