Statsrådets utrednings- och forskningsverksamhet
Utredning: Etiska aspekter bör beaktas i planeringen av AI-tillämpningar för myndigheterna
Artificiell intelligens (AI) och robotiserad processautomation används hela tiden allt mer i samhället, också av myndigheter. Teknologiska forskningscentralen VTT utredde tillsammans med Jyväskylä universitet och Helsingfors universitet vilka etiska utmaningar det för med sig att myndigheterna använder artificiell intelligens. Arbetet resulterade i en etisk verksamhetsmodell som ska stödja planeringen av lösningar som baserar sig på artificiell intelligens. Utredningen gjordes inom ramen för statsrådets utrednings- och forskningsplan för 2018.
Många sådana processer i myndigheternas verksamhet som inte kräver övervägande är redan nu automatiserade. I och med artificiell intelligens kan man automatisera även sådana beslutsprocesser som kräver övervägande. Detta förändrar de offentliga serviceprocesserna och påverkar såväl enskilda individer som hela samhället. Det blir allt viktigare att beakta etiska aspekter, eftersom man även under AI-eran bör garantera att verksamheten är förenlig med samhällets etiska värderingar och att det finns ett förtroende för detta.
”Etik bygger på moraluppfattningar och värderingar och går inte att definiera på ett entydigt sätt. Därför finns det behov av omfattande offentlig diskussion för att identifiera en gemensam målbild. Etiska aspekter bör också bedömas från fall till fall i rätt kontext”, påpekar Raija Koivisto, som är ledande forskare vid VTT.
I utredningen granskades vad etik och samhällelig godtagbarhet i fråga om artificiell intelligens betyder i myndigheternas verksamhet. Utmaningarna med artificiell intelligens utreddes genom en medborgarenkät och användningsfall inom olika förvaltningsområden. Utifrån utredningen skapades en verksamhetsmodell som betonar beaktandet av etiska aspekter i planeringen av lösningar som baserar sig på artificiell intelligens.
I utredningen identifierades ett tiotal viktiga frågor som gäller användningen av artificiell intelligens i myndigheternas verksamhet. En viktig fråga med tanke på både etik och godtagbarhet är transparens. Finländarna förhåller sig i allmänhet positiva till användningen av artificiell intelligens, men förtroendet förutsätter öppenhet och transparens. Myndigheterna måste kunna motivera sina beslut, vilket är svårt om beslutsfattandet bygger på självlärande algoritmer.
En annan viktig fråga är vilka nya kunskaper som behövs i de olika faserna från upphandling till användning av ett system som baserar sig på artificiell intelligens. Man bör därför bedöma om det inom den offentliga förvaltningen finns tillräcklig kompetens med tanke på upphandling, upprätthållande och utveckling av systemet. Samtidigt bör man fundera ut hurdan AI-kompetens som krävs av medborgarna och hur medborgarna kan bemötas likvärdigt oberoende av kompetensen.
Artificiell intelligens innebär också många nya möjligheter för myndigheternas verksamhet. Genom AI-tillämpningar kan man bland annat förbättra och snabba upp servicen och beslutsfattandet, tillhandahålla kunderna nya servicekanaler och bättre beakta individer i beslutsfattandet.
Den etiska verksamhetsmodell som tagits fram inom ramen för utredningen stöder förverkligandet av dessa möjligheter. I modellen utgör etiska aspekter utgångspunkten för planeringen, vilket innebär att alla människor behandlas likvärdigt och rättvist, med respekt för deras individuella behov och rättigheter.
”De etiska aspekterna i artificiell intelligens bör granskas systematiskt. Med hjälp av modellen kan man bilda sig en uppfattning om de olika aktörerna, om deras roller, uppgifter och samarbete och om de viktigaste etiska frågorna i anslutning till ett specifikt fall. På så sätt kan man också bilda sig en uppfattning om vilka lösningar som behövs och vilket rättesnöre man ska följa vid etiska val. Verksamhetsmodellen erbjuder verktyg till stöd för den systematiska granskningen. Genom en klok användning av artificiell intelligens kan man åstadkomma positiva förändringar och i bästa fall till och med lösa etiska problem”, konstaterar Koivisto.
Ytterligare information: Raija Koivisto, ledande forskare, VTT, tfn 040 531 3311, fornamn.efternamn(a)vtt.fi
