Tekoäly ja sen erilaiset sovellukset ovat usein uutisissa esiintyviä aiheita. Tekoälyjärjestelmien odotetaan leviävän kaikille elämänalueille. Niiden luvataan huolehtivan monista aiemmin ihmisille kuuluvista tehtävistä mutta myös tarjoavan mahdollisuuksia uudenlaiseen toimintaan.
Perinteisillä teknologia-aloilla tekoälysovellusten käyttöönotto sujuu usein luontevasti, mutta miltä siirtymä näyttää yhteiskunnan kannalta tärkeillä elämänalueilla, joissa ihmisten vuorovaikutus on keskeinen osa toimintaa, niin kuin sosiaali- ja terveysaloilla. Mihin kaikkeen tekoälyä voitaisiin hyödyntää hoidossa, hoivassa ja huolenpidossa? Kuinka uusia sovelluksia voidaan ottaa käyttöön ihmisiä kunnioittavalla ja hyvää elämää tukevalla tavalla?
SotePeda- ja ETAIROS -hankkeet järjestivät maaliskuun 2020 kestäneen, sosiaali- ja terveysalan asiantuntijoille suunnatun Virtuaalisen Eettisen Foorumin. Verkkokeskusteluna järjestetyssä foorumissa pohdittiin tekoälyn merkitystä eri alueilla, kuten digijohtamisessa, eettisessä päätöksenteossa, vanhustenhoidon tukena ja viruspandemian ehkäisyssä. Forumilla työstettiin yhdessä keskustellen myös sote-alan digitalisaatioon liittyvää eettistä toimintamallia. Foorumin tuloksia hyödynnetään Etairos-tutkimusprojektiin sisältyvässä kehittämistyössä sekä SotePeda-hankkeessa etiikan opetuksen kehittämiseen ja eettisen toimintamallin luomiseen.
Järjestämäämme keskusteluun osallistui 51 asiantuntijaa omalla nimellään. Osallistujajoukko koostui sosiaali- ja terveysalan sekä kuntoutuksen ammattilaisista ja kouluttajista, teknologian, juridiikan ja julkisen hallinnon asiantuntijoista sekä tutkijoista. Foorumiin tehtiin neljän viikon aikana yhteensä 672 vierailua. Eniten keskustelua virisi tekoälysovellusten eettisyyteen liittyvistä kysymyksistä. Covid-19-pandemia sai kolmannella viikolla keskustelijat pohtimaan kriisin vaikutuksia ihmisten arkeen, luottamukseen, ja tekoälykehitykseen – samalla kun keskustelun tunnelma vaihteli pelosta realismiin ja edelleen kyllästymistä ilmaiseviin puheenvuoroihin.
Sotealalla ei ole vielä käytössä monia tekoälysovelluksista, niinpä keskustelijoilla oli vain vähän omakohtaista kokemusta tekoälyn kanssa toimimisesta. Rajaa tekoälyn ja muiden digitaalisten palvelujen välille on siksi vaikea hahmottaa.
Tekoälysovelluksia toivotaan avuksi erityisesti ihmistä avustaviin ja tukeviin rooleihin. Tekoälyyn päätöksentekijänä sen sijaan suhtaudutaan varauksella. Suurten datamassojen keräämiseen ja käyttöön liittynee paljon ongelmia, joita emme vielä edes tiedosta. Dataa tarvitaan järjestelmien kehittämiseen, mutta sitä saatetaan käyttää myös ihmisten tietämättä ja tarkoituksiin, jotka ovat epäilyttäviä tai jopa vääriä.
Keskustelussa korostuu tekoälysovellusten tekemien päätösten läpinäkyvyyden vaatimus: mihin kerätyn datan pohjalta tehdyt päätökset tai ehdotukset perustuvat? Mihin algoritmiset valinnat perustuvat? Tekoälysovellusten toivotaan tuovan selvästi näkyviin, milloin jokin ohje tai päätös on peräisin järjestelmältä ja milloin sen on tehnyt ihminen.
Teknologiahankintoja tehdessään palvelun tarvitsijat tuntuvat olevan edelleenkin aika tavalla suunnittelijoiden ja valmistajien armoilla, vaikka palveluntarjoajien tulisi toteuttaa asiakkaan tarpeita ja toiveita. Sovellusten hankintaa tuntuu vaivaavan muna-kana-ongelma: käyttäjillä ei ole riittävää asiantuntemusta hankintojen tekemiseen, toisaalta taas hankintoja tekevät eivät aina tunne riittävästi tehtäviä, joiden toteuttamiseen tekoälysovelluksia tarvitaan.
”Pahimmillaan, ei ehkä järjestelmät sinänsä, vaan tapa ottaa niitä käyttöön
ovat omiaan hankaloittamaan työn tekemistä.”
Keskustelijat arvelivat, että tekoälysovellusten kehitystä ohjaa ennen muuta markkinatalouden ansaintalogiikka. Tarpeet ja tarjonta eivät tuntuisi kohtaavan myöskään tämän vuoksi. Pistemäisten erillisratkaisujen kehittämisen sijaan tulisi pyrkiä luomaan modulaarisesti koostettavia, vähitellen rakentuvia kokonaisjärjestelmiä. Näin työtä ei tarvitsisi aina aloittaa alusta.
Suunnittelun ja käytön välinen kuilu näkyykin usein siinä, että järjestelmät eivät toimi toivotulla tavalla. Ennen hankintaa olisi tehtävä riittävän laaja tarvekartoitus ja riskianalyysi, minkä osana olisi kirkastettava asiantuntijoiden ja työntekijöiden kokemuksen pohjalta näkemys hankittavalla teknologialla tavoiteltavista hyödyistä.
Yleinen toive siitä, että palvelut ja sovellukset olisivat helppokäyttöisiä ja käyttölogiikaltaan vaivattomasti hahmottuvia, koskee niin tekoälypohjaisia kuin muitakin digitaalisia sovelluksia. Keskustelijoiden mielestä yksi eettisesti arveluttavimmista kehittämistavoista on valjastaa asiakkaat jo hankitun tuotteen testaajiksi. Asiakkaan roolissa olevien tulisi osata vaatia enemmän ja asettaa laadullisia kriteerejä, jotka tuotteen tai palvelun tulisi täyttää silloin, kun se otetaan käyttöön. Minimivaatimuksena hankinnasta vastaavan olisi oltava selvillä siitä, mihin teknologiaa ollaan hankkimassa ja miten se saadaan juurrutettua osaksi muuta toimintaa.
”Ostajan on syytä pitää rahat taskussaan, kunnes järjestelmien asianmukaisuus on taattu.”
Tekoälysovelluksia kehitettäessä ja tilattaessa on taattava, että ne toimivat oletetulla tavalla ja että asiakas saa, mitä uskoo tilanneensa. Tähän tarvitaan erilaisia takuujärjestelmiä. Jos näin ei toimita, on vaarana, että teknologia jää irralliseksi palaseksi, joka ei sulaudu muuhun toimintaan.
Virheitä on mahdollista ehkäistä osallistamalla teknologiaa hyödyntävät asiantuntijat jo suunnittelu- ja hankintavaiheessa kehittämistoimintaan. Koska tarpeet ja kehityssuunnat esimerkiksi vanhustenhoidossa ovat varsin yhtenevät, hankintoja tekevien organisaatioiden keskinäistä kokemusten vaihtoa olisi lisättävä.
Käyttäjien kuuleminen heidän tarpeensa aidosti huomioon ottavalla tavalla on keskustelijoiden keskeinen toivomus. Erilaisia osallistavan suunnittelun menetelmiä yhdistelemällä voitaisiin lisätä ymmärrystä käyttäjien tarpeista ja ratkaisujen hyödyllisyydestä. Sovellusten jatkuva kehittäminen on välttämätöntä. Siksi valmistajien ja käyttäjien tulisi olla jatkuvassa vuorovaikutuksessa myös sen jälkeen, kun järjestelmä tai palvelu on otettu käyttöön.
Toiveet tekoälyä kohtaan ovat korkealla ja tunnelma on uteliaan odottava. Siksi ymmärretään myös, että tietynlaista riskinottoa uusien ideoiden ja innovaatioiden kehittelyyn tarvitaan.
”Tietty määrä eksploratiivisuutta ja runsaasti iteratiivisuutta pitää sallia,
sillä vain sitä kautta löydämme uusia todella innovatiivisia mahdollisuuksia,
joita tämä teknologia mahdollistaa.”
PS. Terveyden ja hyvinvoinnin mobiilisovellutusten hankinnan tueksi on parhaillaan kehitteillä laatukriteeristö. Sen perusteella palveluita tarvitsevat voivat arvioida uusia mobiilisovellutuksia ja mobiilisovellusten kehittäjät saavat tietoonsa käyttäjien tärkeinä pitämiä odotuksia sovellusten ominaisuuksista: https://www.nen.nl/Standardization/Health-and-wellness-apps.htm
Kirjoittajat:
Jaana Hallamaa, professori (Helsingin yliopisto) ja Jaana Leikas, johtava tutkija (Teknologian tutkimuskeskus