Myndigheter är riskmedvetna vid AI-utveckling
Många myndigheter skyndar långsamt med att utveckla AI i verksamheten, konstaterar Statskontoret i en rapport. Det kan vara klokt med tanke på riskerna, skriver myndighetens utredare, men varnar samtidigt för att statsförvaltningen kan hamna i bakvatten.
I arbetet med rapporten om AI, artificiell intelligens, i statsförvaltningen har Statskontorets utredare gått igenom tidigare forskning och utvärderingar samt intervjuat företrädare för sju myndigheter. Fokus har legat på specifika AI-lösningar som myndigheterna själva utvecklat eller köpt in, inte andra AI-system som anställda kan ha tillgång till, såsom Chat GPT.
De flesta stora myndigheter använder AI på något sätt. Minst tolv av de sexton största använder eller planerar att införa tekniken.
Många gånger handlar det om att effektivisera administrativ verksamhet eller kommunikation med allmänheten. Vissa myndigheter gör riskbedömningar med hjälp av AI, för att upptäcka fel eller brott. I enstaka fall används AI som beslutsstöd vid myndighetsutövning.
Statskontoret ställer AI-användningen i relation till den statliga värdegrunden, som bland annat slår fast att förvaltningen ska vara effektiv, rättssäker och fri från korruption. Att använda AI i administrativ verksamhet är med det perspektivet relativt oproblematiskt, skriver myndigheten i rapporten. Det kan gälla uppgifter som dokumenthantering, sortering av mejl och översättningstjänster.
Det finns också exempel på användning i kärnverksamheten som inte handlar om myndighetsutövning. Lantmäteriet använder AI vid analys av flygbilder och SMHI använder den i vädermodeller, vilket minskar behovet av superdatorkraft. Skogsstyrelsen har drönare som letar efter angrepp av granbarkborre med hjälp av AI, och Trafikverket testar kartläggning av invasiva arter längs vägarna.
Sådan användning kan förbättra och effektivisera verksamheten, enligt Statskontorets utredare. Men när AI används för att skapa beslutsunderlag eller för att göra riskbedömningar är riskerna större.
Flera myndigheter gör redan detta. Skatteverket tar hjälp av AI för att hitta deklarationer med stor risk för fel och fusk. Polisen använder ett AI-stöd som blixtsnabbt sorterar stora mängder film och foton, och har begärt att få använda automatisk ansiktsigenkänning i realtid vid övervakning av offentliga platser. Frågan snabbutreds just nu av regeringen.
Ett annat exempel är Försäkringskassan, som nyttjar AI för att upptäcka ärenden med risk för felaktigheter och fusk. Tidigare har det använts inom tandvårdsstödet, men myndigheten vill inte berätta för Statskontorets utredare vilka förmåner som omfattas i dag.
Arbetsförmedlingen har en AI-funktion som, med ett omfattande underlag av personuppgifter, bedömer hur mycket stöd en arbetssökande behöver. Det är dock en mänsklig handläggare som beslutar vilken stödkategori personen ska placeras i.
Eftersom AI lär sig genom träning på historiska data finns en risk att redan existerande ojämlikheter och diskriminering förstärks, anser Statskontoret. Rekommendationer som baseras på AI-teknik ”kan i värsta fall vara diskriminerande, integritetskränkande eller olagliga”.
I Nederländerna briserade en skandal av det slaget förra året, då tusentals barnfamiljer tvingades lämna tillbaka sitt barnomsorgsbidrag på grund av små och betydelselösa fel i ansökan. Landet skattemyndighet hade använt en algoritm där etnicitet ingick i riskbedömningen, vilket ledde till särskilt ingående kontroller av familjer med invandrarbakgrund.
Statskontoret noterar att det ibland finns olika uppfattningar bland anställda på en myndighet om hur man ska förhålla sig till underlag som tagits fram av AI. Det kan få negativa effekter om anställda drar åt ett annat håll än myndighetsledningen, eller om skilda grupperingar tycker olika, enligt rapporten.
AI kan även innebära svårigheter för medborgarna att se på vilka grunder ett beslut fattats. Myndigheterna har enligt den så kallade legalitetsprincipen krav på sig att dokumentera underlag och beslut, men med en ständigt lärande och föränderlig AI ”kan det vara svårt eller till och med omöjligt att exakt förstå hur de fungerar”, skriver Statskontoret.
Detta kan enligt rapporten bli särskilt påtagligt i system för beslutsstöd. I Göteborg blev en skolplacering fel på grund av en algoritm, men när fallet togs till domstol nekades den klagande tillgång till programkoden bakom algoritmen. En sådan situation gör det svårt att peka ut ansvar för beslut, och riskerar att minska förtroendet för offentlig förvaltning, skriver Statskontoret.
Trots dessa varningar är Statskontorets generella bedömning att myndigheterna är försiktiga och riskmedvetna när de utvecklar AI-funktioner. Vissa väljer bort AI helt på grund av riskerna, andra undviker att använda AI för riskbedömningar och i beslutsprocesser.
Andra skäl att avvakta kan vara brist på kompetens och kunskap. Utvecklingen hejdas också ofta av att AI-piloter visar sig omöjliga att skala upp. De hamnar då i stället på ”pilotkyrkogården”, skriver Statskontoret.
Det är rimligt att statsförvaltningen inte är en spjutspets i den tekniska utvecklingen, men att skynda långsamt har också ett pris, konstaterar Statskontoret. Innovation och effektivisering är viktiga värden, och AI-baserade tjänster kan förbättra servicen till medborgarna.
Statskontoret efterlyser mer av strategiskt tänkande och systematiska utvärderingar. Rapporten lyfter också fram behovet av ett klargörande av rättsläget för driva AI-utvecklingen framåt på ett rättssäkert sätt. Statskontoret anser också att regeringen behöver förtydliga sin styrning, och exempelvis göra klart vilken eller vilka myndigheter som ska ansvara för AI-satsningar som statsförvaltningen kan göra gemensamt.
Detta är en nyhetsartikel. Publikts nyhetsrapportering ska vara saklig och korrekt. Tidningen har en fri och självständig ställning gentemot sin ägare, Fackförbundet ST, och utformas enligt journalistiska principer samt enligt spelreglerna för press, radio och TV.
