Kuka vastaa algoritmien päätöksistä? | KPMG | FI
close
Share with your friends

Kuka vastaa algoritmien päätöksistä?

Kuka vastaa algoritmien päätöksistä?

KPMG:n tuore Guardians of trust -raportti tutkii luottamuksen roolia kehittyvässä digitaalisessa maailmassa.

Aiheeseen liittyvää sisältöä

Digitaalinen muutos törmää luottamuspulaan

Mediassa on uutisoitu Uberin itseohjautuvan robottiauton onnettomuudesta ja Cambridge Analytican harjoittamasta kyseenalaisesta datan keräämisestä ja käytöstä. Molemmat tapaukset horjuttavat luottamusta dataan ja analytiikkaan ja niiden asianmukaiseen käyttöön.

KPMG:n tuore Guardians of trust -raportti tutkii luottamuksen roolia kehittyvässä digitaalisessa maailmassa. Tutkimuksessa selvitettiin noin 2 200 datastrategian kehittämiseen osallistuneen päättäjän näkemyksiä organisaatioidensa tuottaman analytiikan luotettavuudesta. 

  • 35 % päättäjistä luottaa vahvasti organisaationsa tapaan hyödyntää analytiikkaa.
  • 25 % suhtautuu organisaationsa analytiikan käyttöön epäilevästi.
  • 92 % päättäjistä on huolissaan toimimattomien analytiikkamallien tai niiden sopimattoman käytön aiheuttamasta maineriskistä. 

Edistynyt analytiikka ja algoritmit tuovat mukanaan uudenlaisia luottamukseen ja vastuuseen liittyviä kysymyksiä. Digitalisoituneessa maailmassa myös koneiden, algoritmien ja niiden tuottaman analytiikan perusteella tehtävien päätösten on osoittauduttava luottamuksen arvoisiksi. 

Kenelle kuuluu vastuu algoritmien päätöksistä?

Algoritmit ja koneet eivät aina onnistu päätöksenteossa. Jos jokin menee vikaan, aletaan etsiä syyllistä. Kenellä on vastuu huonosta päätöksestä? Onko se algoritmilla, ohjelmiston kehittäjällä, ohjelmiston ostaneella yrityksellä vai jollakulla muulla?

KPMG:n raportin mukaan 62 % pitää itseohjautuvan auton onnettomuutta ohjelmiston kehittäneen organisaation syynä. Ohjelmiston kehittäjää syytetään helposti onnettomuudesta, mutta vastuun pitäisi jakautua organisaatiossa laajemmalle joukolle. Raportin mukaan ei kuitenkaan ole selvää, kuka organisaatiossa on viime kädessä vastuussa edistyneiden analytiikkaprosessien luotettavuudesta ja tarkkuudesta.

Data- ja analytiikkapalveluista Suomen KPMG:llä vastaava Jan Nyström on huomannut, että myös suomalaisissa organisaatioissa pohditaan yhä tiiviimmin dataan ja sen omistajuuteen liittyviä kysymyksiä. 

— Datan ja algoritmien omistajuus on uusi asia monessa organisaatiossa, ja sen ympärillä käydään aika paljon keskusteluja. Ei ole selkeää kuvaa, kuka vastaa organisaation datasta ja analytiikkaprosessien kehittämisestä, Jan kertoo.

— Dataan, koneoppimiseen ja automaatioon liittyvässä keskustelussa on kyse isosta rakenteellisesta kokonaisuudesta, jossa mietitään miten dataa ja datan hyödyntämistä pitää hallita läpi organisaation. Miten rakennetaan ekosysteemi, hallintamalli, prosessit ja omistajuudet kaiken ympärille, Jan sanoo.

Sujuvaa koneiden ja ihmisten yhteiseloa?

Jan Nyströmin mielestä syyllisten etsimistä olennaisempaa on pohtia, miten yhteiselo ihmisen ja koneen välillä saadaan toimimaan mahdollisimman hyvin. Organisaatioiden on alettava tietoisesti miettiä, miten niiden johtamismalleissa ja prosesseissa huomioidaan ihmisten ohella myös koneet, algoritmit ja edistynyt analytiikka.

— Syyllisen etsimisen sijaan olisi olennaisempaa keskittyä miettimään sitä, miten rakennetaan luottamus koneen tekemän päätöksen oikeellisuudesta. Miten toimimme niin, että virheiden mahdollisuus minimoituu? 

— Koneen on ensinnäkin tehtävä päätöksiä oikein perustein. Tämä tarkoittaa, että huolehditaan lähtödatan oikeellisuudesta ja varmistutaan algoritmien laskukaavojen toimivuudesta. Koodien tarkistamisen ja algoritmien varmentamisen on oltava osa prosessia. Datan oikeellisuuden lisäksi on huomioitava luottamuksellisuus ja datan hyödyntämisen eettinen puoli. Luottamus syntyy siitä, että tehdään eettisesti ja moraalisesti oikeita asioita, Jan pohtii. 

Jan on huomannut, että koneiden tekemiltä päätöksiltä odotetaan täydellisyyttä, mutta siihen eivät koneetkaan pysty. Miten suhtaudumme siihen, että koneetkin tekevät virheitä, vaikka tilastollisesti algoritmi osuisikin ihmistä paljon paremmin kohdalleen?

— Olemme harjoitelleet vuosituhansien ajan ihmisen tekemää päätöksentekoa. Kaikki ymmärtävät, että joskus tulee virheitä. Ennakoiva analytiikka ja koneoppiminen perustuvat matematiikkaan, algoritmeihin ja todennäköisyyksiin. Koneet tekevät tulevaisuudessa päätöksiä yhä enemmän, mutta ei voida lähteä siitä, että koneetkaan osuvat aina oikeaan, Jan muistuttaa.

Lisätietoja

Jan Nyström, Data- ja analytiikkapalvelut
KPMG Oy Ab
Puh. 020 760 3172
S-posti: etunimi.sukunimi@kpmg.fi

Tutkimuksen taustat

KPMG International antoi Forrester Consultingille toimeksiannon selvittää datastrategian kehittämiseen osallistuneiden päättäjien näkemyksiä organisaatioidensa tuottaman analytiikan luotettavuudesta. Heinäkuussa 2017 toteutetussa tutkimuksessa selvitettiin 2 190:n yhdeksässä eri maassa ja toimialalla toimivan IT- ja liiketoimintapäättäjän näkemyksiä organisaatioidensa data- ja analytiikkahankkeista.

Ota yhteyttä

 

Jätä tarjouspyyntö

 

Lähetä