Valta liikkuu, vastuu jää paikalleen

Edellisessä blogini kirjoituksessa (Kuinka vastuuketju säilyy, kun tekoälyyn ei voi luottaa?) kirjoitin vastuuvelvollisuuden ketjusta käytettäessä kielimalleja korkeakoulukonteksissa. Sen lähtökohtana oli hahmotella oppijan ja korkeakoulun välistä suhdetta ja sitä, kuinka otamme tekoälynmallien roolin osaksi opettamista ja oppimista. Näistä teemoista keskustelua pitää jatkaa, mutta seuraavaksi pureudun tekoälyn rooliin päätöksenteossa. Vastuuketjun katkeaminen näkyy nimittäin vielä akuutimmin korkeakoulujen, julkishallinnon tai yritysten päätöksenteossa, kun jatkossa mukana on entistä useammin tekoäly.

Suomessa laki hallinnon automatisoidusta päätöksenteosta tuli voimaan 1.5.2023 [1]. Sen tarkoituksena oli kirjata ne ehdot, joiden vallitessa virkamiestyö voidaan korvata koneen tekemällä päätöksellä. Laki ottaa kantaan siihen, kuka vastaa lopputuloksesta, jos päätös on virheellinen. Niin ikään EU:n tekoälyasetus (AI Act) tuli voimaan 1.8.2024 [2]. Sen liitteen III mukaan korkeakoulutuksessa käytettävät tekoälyjärjestelmät opiskelijavalinnassa, oppimistulosten arvioinnissa ja sopivalle koulutustasolle sijoittamisessa on luokiteltu korkean riskin järjestelmiksi, ja näitä koskevat velvoitteet astuvat asteittain voimaan 2.8.2026 mennessä.

Kaksi sääntelyhanketta jakavat saman pyrkimyksen selkeyttää ja linjata vastuuketjua. Ne pyrkivät palauttamaan vastuun johonkin tiettyyn henkilöön tai organisaatioon sillä hetkellä, kun päätös tehdään. Mutta ne eivät lopulta palauta valtaa. Päätöksen sisällön, siis kenet valitaan, minkä arvosanan oppija saa, mille opiskelijalle järjestelmä ehdottaa interventiota, muodostaa kompleksinen algoritmi. Se on liian monimutkainen, jotta vastuussa olevalla virkahenkilö, ohjaaja tai koulutuspäällikkö pystyisi näkemään sen ehdottamat päätökset läpinäkyvästi ja perustelemaan ne.

Mistä päätös tarkalleen ottaen syntyy?

Klassisessa hallintotoimessa päätöksen rakenne ja perustelut pitää avata. Hallintolaki (434/2003) edellyttää, että päätös on perusteltava ja että perustelut on yksilöitävissä sovellettuun säädökseen ja tapauksen tosiseikkoihin. Periaate olettaa, että päätöksentekijä, henkilö, pystyy esittämään syyt kohta kohdalta, rivi riviltä. Algoritmin tuottamassa päätöksessä syyt ovat olemassa, mutta ne ovat lukemattomissa painokertoimissa ja neuroverkon arkkitehtuurissa. Ne eivät käänny luettavaksi perustelutekstiksi ilman erillistä tulkintakerrosta. Tämä tulkintakerros (engl. explainability layer) on aktiivisen tutkimuksen kohde, ja se tuottaa selityksiä, jotka ovat aina jälkikäteisiä ja approksimatiivisia. Selitys ei ole päätös vaan selostus päätöksestä.

Korkeakoulukontekstissa sama dynamiikka näkyy ennakoivassa opintoanalytiikassa. Useat suomalaiset korkeakoulut hyödyntävät opiskelijoiden suoritus- ja kirjautumisdatasta johdettuja malleja siihen, kuka tunnistetaan keskeyttämisriskissä olevaksi ja kenelle ehdotetaan ja kuka saa kohdennetun ohjaustoimenpiteen. Mallin ehdottamien interventioiden marginaalivaikutusta on vaikea erottaa muista tekijöistä kuten  opetussuunnitelman muutoksista, kohorttirakenteesta ja taloussuhdanteesta. Tähän voisi rakentaan vertailuasetelman (a/b -testaus), mutta opiskelijoiden tasa-arvoinen kohteleminen voisi olla vaikea taata. Päätös siitä, ketkä saavat ohjausta, perustuu yhä useammin malliin, jonka oma vaikutusosuus interventioiden tuloksiin jää itse interventiosta tehtävän arvioinnin ulottumattomiin – parhaan arvauksen ja peukalotuntuman varaan.

Muodollisesti päätöksen tekee opettaja tai tämän esihenkilö. Käytännössä se on tietojärjestelmän, joka pisteyttää opiskelijat. Vastuu on ohjauksen tehneen ihmisen, mutta valta siitä, kenelle ohjausta tarjotaan, on jo siirtynyt algoritmille.

Vastuu ja valta

Vastuun ja vallan suhde voidaan piirtää nelikenttänä ihmisen ja järjestelmän kombinaatioista (kuva 1). Pystyakselilla on se, kenellä on toimivalta päätökseen. Vaaka-akselilla on se, kenellä on muodollinen vastuu päätöksen seuraamuksista.

Kun molemmat ovat ihmisellä, kysymyksessä on perinteinen hallintopäätös. Tämän ruudun osuus julkishallinnossa näyttää kapenevan työtehostamiseksi. Kun molemmat ovat järjestelmällä, kysymyksessä olisi autonominen tekoälytoimija oikeushenkilön asemassa. Toistaiseksi mikään lainsäädäntö ei tätä tunnista, mutta on selvää, että esimerkiksi droonisota operoi tässä ruudussa, kansainvälisistä sopimuksista huolimatta.

Ruutu, jossa ihminen vastaa mutta järjestelmä päättää, on se, johon suuri osa ennakoivasta analytiikasta, suosittelujärjestelmistä ja päätöstukimalleista nykyisin sijoittuu. Vastuu on lainsäädännöllinen, valta on tekninen, ja ne osoittavat eri suuntiin. Ruutu, jossa järjestelmä vastaa mutta ihminen tekee päätöksen, on sääntelyn pyrkimyssuunta. EU:n tekoälyasetuksen korkean riskin järjestelmiä koskevat velvoitteet mm. vaatimustenmukaisuusarviointi, dokumentointi ja jälkikäteinen seuranta, pyrkivät siirtämään osan vastuusta järjestelmän tarjoajalle, samalla kun lopullinen päätös pidetään ihmisellä.

Sääntely siis tunnistaa vallan ja vastuun eriytymisen ongelman ja yrittää korjata sitä. Järjestelmän tarjoaja vastaa siitä, että malli on dokumentoitu ja että sen koulutuksessa on noudatettu vaatimuksia. Tarjoaja ei kuitenkaan vastaa yksittäisestä päätöksestä, jonka opettaja, virkahenkilö tai lääkäri tekee mallin ehdotuksen pohjalta. Tämä vastuu pysyy ihmisellä, vaikka päätöksen perustelut on muodostanut algoritmi, jota ihminen ei ole nähnyt eikä voi tarkistaa.

Tämän rakenteellisen jakautumisen ymmärtäminen ei ole vain hallinto-oikeudellinen tai tekninen kysymys vaan eettinen, ja sen käsitteellinen sidos on selitettävyydessä. Floridi kollegoineen [3] on perustellut AI4People-viitekehyksessä, että perinteiset bioetiikan periaatteet (hyvän tekeminen, vahingoittamisen välttäminen, oikeudenmukaisuus ja autonomian kunnioittaminen) eivät yksin riitä tekoälykontekstissa, vaan niiden rinnalle tarvitaan viides periaate, explicability, jossa kytkeytyvät sekä tieto-opillinen vaatimus ymmärtää miten järjestelmä toimii, että eettinen vaatimus tunnistaa kuka sen toiminnasta vastaa. Suomeksi käännös voisi olla selitettävyys, mutta käännös kadottaa sen kahden ulottuvuuden samanaikaisuuden, johon koko periaatteen voima nojaa. Selitettävyys ei tässä mielessä ole mallin tuotosten tekninen jälkikäteinen avaaminen vaan ehdoton edellytys sille, että vastuuvelvollisuus voi tosiasiallisesti realisoitua silloin, kun päätöksen aineellinen sisältö on tuotettu koneoppimisen keinoin. Sama painotus on tavoitettu uudemmassa hallintotieteellisessä keskustelussa. Zhu [4] erittelee julkisen hallinnon ja tekoälyn suhteen kolmeen ulottuvuuteen (public administration with, of, and through AI  suomeksi hallinto tekoälyn avulla, tekoälyä koskien ja tekoälyn läpi) ja paikantaa keskimmäisen ulottuvuuden eli tekoälyn eettisen ja oikeudellisen ohjauksen vakavimman esteen nimenomaan tulkittavuuden puutteeseen: ihmiselle käsittämättömän monimutkaisten algoritmien käyttö rajoittaa hallinnon tutkijoiden ja toimijoiden kykyä perustella ja oikeuttaa hallinnollisia päätöksiä, vaikka ne muodollisesti pidetään ihmisten tekeminä. Selitettävyys ei siis kohennu sillä, että päätös allekirjoitetaan virkamiehen nimellä. Vai olemmeko tiellä, jossa tehokkuuden maksimointi johtaa meidät tilanteeseen, jossa päätökset on tehty ”ihmisvalvonnassa” ei ihmisten toimesta?

Onko valta ehto vastuulle vai vastuu ehto vallalle?

Klassinen oikeusvaltion oletus on, että valta ja vastuu ovat sidoksissa toisiinsa. Vastuu seuraa valtaa: se, kuka voi päättää, vastaa päätöksensä seurauksista. Traditio on niin syvällä, että se kantaa työsopimuslaista virkamiehen vastuuseen ja akateemisesta vapaudesta tutkintotodistukseen. Korkeakoulun antama tutkintotodistus on todistus siitä, että opiskelija on osoittanut osaamista, ja sen pohjana on oletus siitä, että osaaminen on todennettavissa hänen omiin valintoihinsa ja päättelyynsä.

Kosmynan ja kollegojen havainto kognitiivisesta velasta, johon viittasin edellisissä blogini osassa, osuu suoraan tähän kohtaan. Jos opiskelijan oma päättelykyky ohenee samalla kun tekoälyn valta sisällön rakentamiseen kasvaa, vastuu lepää yhä kapeammalla aineellisella pohjalla. Opiskelija vastaa siitä, mihin hänellä on yhä vähemmän valtaa. Sama dynamiikka toistuu työelämässä. Lääkäri, joka käyttää päätöstukijärjestelmää, kantaa muodollisesti vastuun hoidosta, mutta hänen kykynsä haastaa järjestelmän ehdotusta ohenee mitä rutiininomaisempaa ja aikataulupaineisempaa sen käyttö on. Mahdollisesti hän tunnistaa selvät virheet, mutta järjestelmällisiä vinoumia hän ei näe — niiden näkeminen vaatisi kaltaistettua aineistoa, jollaista yksittäisellä päätöksentekijällä ei ole.

Tästä avautuu kysymys, jonka korkeakoulujen on syytä esittää itselleen. Jos koulutamme seuraavan sukupolven päätöksentekijöitä järjestelmiin, joissa heidän valtansa kapenee, mutta heidän vastuunsa säilyy ennallaan, koulutamme heidät rakenteeseen, johon on sisäänrakennettu rakenteellinen epäsuhta. Vastuu ilman valtaa on hallintotieteen klassinen oire toimimattomasta organisaatiosta. Sen yleistyminen yhteiskunnan ratkaisutapahtumiin ei ole tekoälykysymys vaan rakennekysymys, johon tekoäly toimii kiihdyttäjänä.

Onko siis hyväksyttävää jatkaa nykytilanteessa, jossa vastuun käsitettä laajennetaan kattamaan päätökset, joihin yksittäisellä toimijalla ei ole täyttä toimivaltaa? Jos ei vaihtoehtona on tunnustaa, että vastuun perinteinen rakenne ei enää kanna, ja jättää kysymys ratkaisematta seuraavan hallitusohjelmaneuvottelun pöytään linjattavaksi. Kysymys on niin iso, ettei sen ratkaiseminen onnistu kaiken muun ohella – vastauksen ja yhteiskuntamme linjauksen saaminen tarvitsee varmentaa tehtävään kohdennetulla resurssilla. Tämä jos mikä on se kuuluisa miljoonan euron ongelma.

17.5.2026 / Matti

[1] ”Hallituksen esitys eduskunnalle julkisen hallinnon automaattista päätöksentekoa koskevaksi lainsäädännöksi”, HE 145/2022 vp, lait vahvistettu 23.3.2023, voimaan 1.5.2023, https://www.finlex.fi/fi/esitykset/he/2022/20220145

[2] ”Euroopan parlamentin ja neuvoston asetus (EU) 2024/1689 tekoälyä koskevista yhdenmukaistetuista säännöistä (tekoälyasetus)”, julkaistu Virallisessa lehdessä 12.7.2024, voimaan 1.8.2024, https://eur-lex.europa.eu/eli/reg/2024/1689/oj

[3] ”AI4People—An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations”, Floridi, L., Cowls, J., Beltrametti, M. ym., 2018, Minds and Machines 28(4), 689–707, https://doi.org/10.1007/s11023-018-9482-5

[4] ”Public administration with, of, and through AI: toward a new paradigm in the era of intelligence”, Zhu, X., julkaistu verkossa 4.11.2025, Journal of Chinese Governance vol. 11(1), 30–57, https://doi.org/10.1080/23812346.2025.2578589