Många frågor väcks när datorn blir smartare

”Hej! Jag heter Skatti och är Skatteverkets digitala medarbetare! Hur kan jag hjälpa dig?”

”Jag skulle vilja byta namn.”

”Jag hjälper dig gärna med frågor om att ändra/byta namn. Vilken typ av namn gäller det?”

Därefter lägger Skatti upp fyra länkar i chattrutan: ändring av förnamn, ändring av mellannamn, ändring av efternamn, nyfött barn.

Skatti är en chattbot som delvis är baserad på artificiell intelligens, AI. Det innebär att den hela tiden lär sig och blir bättre, till skillnad mot den tidigare generationen chattbotar som bara upprepade de svar de programmerats att ge. Tanken är att Skatti ska kunna svara på enklare frågor om inkomstdeklaration och folkbokföring, som ”När ska deklarationen lämnas in?” och ”Hur betalar man restskatt?” Slipper medarbetarna ta hand om alla frågor av den typen kan de få mer tid till mer komplexa ärenden. Dessutom är Skatti i tjänst 24 timmar om dygnet.

Anders Tell, ordförande för ST inom Skatteverket, ser just det sistnämnda som en stor vinning.

– Regeringens krav är att vi ska kunna ge service till medborgarna när de efterfrågar den. 40 procent av de frågor som Skatti besvarat hittills har inkommit när det inte funnits någon personal på plats, så på så sätt fyller den en viktig funktion som gynnar alla.

Än så länge har Skatti inte inneburit någon nedgång i arbetsbörda för den mänskliga personalen i kundtjänst, men om roboten med tiden kan ta över de enkla frågorna blir nog de flesta glada, menar Anders Tell.

– Större delen av medarbetarna i kundtjänst kommer nog att se det som en förbättring av arbetsmiljön om de får ägna mer tid åt svårare uppgifter som kräver kunskap och utredning.

Om AI kan bidra till att få ned mängdarbetet som i dag kan vara stressande för medarbetarna, ser Anders Tell positivt på utvecklingen.

– Vissa experter pratar om att AI kan ta över jobben, men det ser vi inte än i alla fall. Problemet är snarare att det finns för mycket arbete. Om vi kan få hjälp att beta av inkorgar och sortera till rätt kö och få möjlighet att ställa frågor till AI för att slippa söka upp alla svar själva så kan stressen minska.

AI är en förkortning av artificiell intelligens, det vill säga maskinintelligens. Det är ett brett område som omfattar många tekniker och det finns ingen entydig definition av begreppet. Men i allmänhet brukar man prata om AI som datorprogram som har förmågan att efterlikna mänskliga kognitiva förmågor som att lära sig saker av tidigare erfarenheter, förstå talat språk, analysera, lösa problem och generalisera.

Fredrik Heintz, biträdande professor och AI-forskare vid Linköpings universitet, förklarar att AI inte är en färdig produkt man köper, det är någonting som är i ständig utveckling och som blir bättre med tiden. Han menar också att själva begreppet AI är rörligt.

– Egentligen handlar AI om att pusha gränserna, om att få datorn att göra det den inte kan göra i dag. Hittills har vi fått datorer att tolka tal, text och bilder, sådant som tidigare bara människan kunde göra. I framtiden kommer vi säkert att få se datorer göra saker som inte är möjligt alls i dag, säger han.

Oavsett hur man väljer att definiera begreppet är det tydligt att AI är något annat än ren automatisering, som innebär en digital lösning som styrs av programmerade regler, något som varit del av många myndigheters verksamhet i flera år.

Andreas Voxberg är analytiker på Skatteverket och leder ett team som jobbar med utveckling av AI. Han berättar att Skatteverket använt sig av automatiserade beslut under närmare tio år och att man de senaste åren förfinat flera av dem med AI. Även andra system har blivit bättre med hjälp av AI.

– Det gäller till exempel klassificering av inkommande e-post via vårt kontaktformulär på webben, säger Andreas Voxberg.

Tidigare fick den som skickade ett mejl den vägen välja ett ämne från en förbestämd lista.

– Men det var inte så träffsäkert eftersom det kunde vara svårt att veta skillnaden mellan olika ämnen. Det resulterade i att handläggare ofta fick flytta mejlen mellan olika inkorgar när de läst igenom dem.

Nu väljer i stället en AI-lösning rätt ämne.

– Den har tränats upp genom att vi frågat handläggarna ”var skulle du lägga det här mejlet?”

Systemet bygger alltså på den gemensamma erfarenheten och kunskapen som finns här, vilket har ökat träffsäkerheten och minskat merarbetet för handläggarna, säger Andreas Voxberg.

Vi befinner oss i en tid då digitaliseringen går snabbt och särskilt AI-teknologin utvecklas i mycket högt tempo. En del menar att vi befinner oss i början av den största omställningen sedan den industriella revolutionen.

Myndigheten för digital förvaltning, Digg, fick under förra året regeringens uppdrag att bland annat öka den offentliga förvaltningens förmåga att använda AI. Patrick Eckemo är senior rådgivare på Digg och menar att det finns två sätt för offentlig förvaltning att förhålla sig till denna omställning.

– Antingen så är man proaktiv eller så är man reaktiv. Är man reaktiv riskerar man att inte ha någon kontroll över utvecklingen, vilket i kristider kan leda till panikåtgärder där digitaliseringen blir ett medel för att spara pengar, och löften om stora kvalitativa vinster går förlorade. Det vore detsamma som en icke hållbar omställning, säger han.

AI-forskaren Fredrik Heintz är inne på samma linje. Han menar att AI påverkar alla delar av samhället och att staten inte kan stå utanför utvecklingen.

Fredrik Heintz poängterar att det finns många fördelar med AI – men också risker.

– En av fördelarna är att man snabbt kan skala upp. En AI kan gå igenom mängder av information på kort tid. En nackdel är att ett litet fel snabbt kan bli väldigt omfattande, eftersom maskinen kommer att fortsätta göra samma fel hela tiden.

Ett annat problem infinner sig när det uppstår en ny fråga inom verksamheten, något många myndigheter upplevt i samband med coronapandemin.

– I en mänsklig organisation är det oftast någon som vet svaret, eller så kan man diskutera sig fram till det. Ett AI-system kan antingen svaret eller inte.

Därför är kombinationen av människa och maskin viktig, menar Fredrik Heintz.

– Jag tror inte att till exempel en helautomatiserad kundtjänst är rätt väg att gå. Men i dag är det ju snarare så att det är för mycket att göra för dem som arbetar inom statsförvaltningen, och där kan AI hjälpa till.

Exakt i vilken utsträckning statliga myndigheter använder AI-lösningar och till vad är i dagsläget oklart. SCB har fått regeringens uppdrag att kartlägga användningen, ett arbete som ska avrapporteras i november.

Utvecklingen och användningen befinner sig dock i sin linda, slår Digg fast i rapporten ”Främja den offentliga förvaltningens förmåga att använda AI”, som presenterades i januari i år. Där framgår också att initiativen oftast kommer från eldsjälar inom verksamheten.

Den bilden delas av Nader Svärd, it-chef på Tillväxtverket och initiativtagare till AI-nätverket, som samlar personer som jobbar med AI på en operativ och taktisk nivå inom svenska myndigheter.

– Eftersom många som driver arbetet med AI är ganska ensamma med det inom sina verksamheter finns det ett stort behov av att dela med sig av erfarenheter och skapa kontaktnät, säger han.

Nätverket träffas ungefär var tredje månad och brukar ha omkring hundra deltagare.

– När man pratar om AI så tänker man ofta på de stora internationella företagen som gjort revolution med sina lösningar, exempelvis inom handels– och transportbranscherna. För offentlig sektor handlar AI i dagsläget mer om evolution, det vill säga effektivisering av befintliga processer, säger Nader Svärd.

Regeringen beslutade 2018 om en nationell inriktning för AI. Där slås fast att Sverige ska satsa på hållbar AI, som innebär att AI-lösningarna ska vara etiska, säkra, tillförlitliga och transparenta.

Etisk AI är ett begrepp utan precis definition. Men oftast brukar man prata om att etisk AI först och främst ska följa etiska normer och principer, till exempel inte diskriminera. Det kan dock vara lättare sagt än gjort när det handlar om AI-lösningar som bygger på maskininlärning, som exempelvis Skatti. En maskin kan läras upp genom att människor manuellt skriver in information, eller genom att maskinen får gå igenom gammal data. Oavsett vilket, så finns risken att människor för över sina fördomar – medvetna eller omedvetna – på AI:n.

Försäkringskassan är en av de myndigheter som har flest AI-lösningar i bruk och merparten av dem används för att upptäcka bedrägeriförsök. I det rena handläggningsarbetet är det svårt att använda AI, delvis av etiska skäl, menar myndighetens it-direktör Stefan Olowsson.

– Vi laborerar med ett stöd för sannolikhetsbedömning, där AI samlar in information och påvisar slutsatser baserat på sannolikhet, men längre än så tror jag inte att AI bör vara behjälplig när det kommer till handläggning. Vi skulle ju kunna låta läkare lära upp en AI att läsa av sjukintyg. Men hur ska vi veta att det är kunskap och inte fördomar som läkarna matar in i AI:n?, frågar han sig.

Forskaren Fredrik Heintz menar dock att det är möjligt att kontrollera i efterhand.

– För det första är det vi som väljer vilken information en AI ska baseras på. Vi kan välja ett urval där diskriminering inte förekommer. För det andra har vi alla möjligheter att testa systemet innan det tas i bruk genom att ta ett antal typiska fall och titta på resultatet. Då kan man hitta diskriminering och modifiera AI:n. Så tänker jag att vi måste göra. Det är ju en sak som är mycket svårare med människor, vi kan lära dem att de inte får diskriminera, men sedan kan de göra det ändå, medvetet eller omedvetet.

En annan aspekt på etisk AI är att den ska vara förklarbar, det vill säga att det ska gå att spåra hur maskinen kommit fram till resultatet.

Majoriteten av de AI-lösningar som finns i bruk inom svenska myndigheter i dag är inte särskilt svåra att förstå eller granska, menar AI-nätverkets samordnare Nader Svärd. Värre blir det om AI ska göra en självständig bedömning och fatta beslut.

– Problemet är att det är svårt att resonera med AI. Hur har den kommit fram till det här? Här behövs tydligare krav på AI-utvecklarna att skapa nödvändig spårbarhet. Jag tror att vi kan komma dit, men fortfarande kvarstår faktum att det kommer att finnas vissa områden som AI lämpar sig för och andra som det inte lämpar sig för, säger Nader Svärd.

Såvitt Digg känner till finns det i dag inga AI-lösningar som används för beslutsfattande i myndighetsutövning. Men myndigheten skriver i sin rapport att användningen av AI på sikt kommer att utmana möjligheterna till transparens. En annan utmaning är ansvarsfrågan.

Just den är viktig att diskutera ur facklig synvinkel, menar Samuel Engblom, samhällspolitisk chef på TCO och flitig debattör i AI-frågor.

– AI beskrivs ibland som något som händer utom mänsklig kontroll. Men chefen kan aldrig skylla ifrån sig på maskinen. Det är alltid arbetsgivaren som har ansvaret, det är en viktig arbetsmiljöfråga, säger han.

En annan viktig fråga ur fackligt perspektiv är den mänskliga autonomin i förhållande till datorn. Samuel Engblom menar att det finns flera myndigheter som har mycket att vinna på att använda AI som ett sätt att hjälpa handläggarna, men poängterar att det måste handla om just en hjälp.

– Det är viktigt att vi inte hamnar i ett läge där den enskilde handläggaren känner sig tvingad att följa AI-stödets rekommendation. Visst kan det vara så att ett analysverktyg upptäcker något som människan inte sett. Om man är öppen för det men fortfarande vågar lita på sin egen kunskap och erfarenhet så kan det bli bra.

Dessutom betonar Samuel Engblom vikten av att kunna om inte förklara så åtminstone kontrollera AI:ns resultat.

– Att våra fördomar kan byggas in i systemen är ett stort problem som vi måste diskutera vidare. Det måste vara möjligt att kontrollera utfallet. Ett sätt som jag förespråkar är att testa att förändra de uppgifter som matas in i systemet för att se hur det påverkar resultatet. Det är väldigt viktigt att vi kan göra sådana tester, säger han.

Även inom ST är användningen av artificiell intelligens och andra digitala verktyg på arbetsplatserna en fråga på agendan. I våras presenterade en digitaliseringsgrupp inom förbundet en rapport där det föreslås att ST ska verka för ett stopp för automatiserade myndighetsbeslut tills vidare, trots att förvaltningslagen slår fast att myndighetsbeslut får tas automatiskt. Digitaliseringsgruppen anser att det i lagens förarbeten inte finns något resonemang om hur rättssäkerheten, ansvarighetskedjan och den personliga integriteten ska värnas.

”Det bör även införas ett förbud mot att använda artificiell intelligens för myndighetsbeslut”, skriver gruppen i rapporten.

Tom Johnson är andre vice ordförande i ST och har varit sammankallande i digitaliseringsgruppen. Han säger att gruppens utgångspunkt varit förtroendet för staten.

– Vad får medborgaren för chans att diskutera saken när beslutet är avidentifierat? Hur överklagar jag? Hur får jag reda på grunderna till beslutet? Det handlar om synen på demokrati. Risken är att vi får ett Kafka-samhälle där det är omöjligt att få tag i rätt person.

Tom Johnson säger att rapporten inte ska ses som teknikfientlig.

– Frågan vi har ställt oss är: gynnar detta rättssäkerheten?

Han framhåller att detta är digitaliseringsgruppens ställningstagande just nu.

– Det här är ju rörliga frågor, det händer saker hela tiden, därför måste detta vara ett ständigt pågående arbete, säger Tom Johnson.

I den breda diskussionen om samhällsnyttan med AI har stort fokus legat på vad som händer med jobben. Forskare världen över, även i Sverige, har spått att 50 procent av alla arbetsuppgifter kommer att automatiseras, med sysslolösa människor som följd. Men få av de personer som Publikt varit i kontakt med uttrycker en rädsla för att det faktiskt kommer att bli så. Snarare ser de positiva effekter för såväl arbetsmiljön som resultaten. De flesta anser att en del jobb kommer att förändras då AI tar över vissa arbetsmoment, men tror också att det kommer att skapas nya uppgifter. Kompetensutveckling kommer därför att bli en viktig fråga.

Men vad händer ännu längre fram? Det vet vi ännu väldigt lite om, men Patrick Eckemo på Digg menar att en sak är säker: AI:n kommer att bli allt smartare.

– Just nu visar all forskning att människa och maskin tillsammans levererar bättre än var och en för sig inom vissa områden. Men drar man ut tidslinjen så ser vi en framtid där AI med stor sannolikhet kommer att leverera bättre på egen hand än tillsammans med människor, säger han.

Regeringen vill att staten ska satsa på AI

Med hjälp av artificiell intelligens kan mänsklig arbetskraft frigöras till att göra det som människor är bäst på. Det är digitaliseringsminister Anders Ygemans svar på frågan varför den statliga sektorn bör satsa på AI.

– Det finns många områden där AI kan vara till stor nytta. Framför allt genom att ta över enklare, tidskrävande uppgifter, men också genom att behandla information och föreslå åtgärder, säger Anders Ygeman.

På så sätt kan de anställda inom statsförvaltningen ägna mer tid åt mänskliga möten och att vara kreativa, menar digitaliseringsministern.

Regeringens mål är att Sverige ska bli bäst i världen på att ta tillvara möjligheterna med digitaliseringen, och i den ingår AI.

Vilka är de viktigaste frågorna att lösa för att vi ska nå dit?

– Jag tror att det finns många områden där AI skulle kunna vara behjälplig i dag, men där man inte vågar ta steget. Jag tror att det krävs lite mer mod, men även bättre rättslig vägledning. Dessutom måste vi bli bättre på att tillgängliggöra data. I dag är Sverige nästan bäst i världen på att samla in data, men bland de sämsta på att tillgängliggöra den.

Omställningen med AI jämförs ibland med den industriella revolutionen. För att säkerställa att tilliten till staten består under en sådan omvälvande förändring krävs bland annat tydlig ledning och styrning, skriver Myndigheten för digital förvaltning i en rapport.

Hur ser du på regeringens roll i detta?

– Vi har definitivt en roll och jag tycker att vi tagit det ansvar som vi bör ta. Det är lätt att tro att det enda som krävs när det gäller AI är en massa expertkunskaper. Men vi behöver också en grundläggande förståelse längst ut i verksamheterna och bland medborgarna. När det

gäller det har vi satsat på onlinekursen ”Elements of AI”, som är gratis och öppen för alla och som

ger högskolepoäng. Hittills har cirka 30 000 svenskar påbörjat kursen.

Hur ser du på frågan om jobben – kommer AI att ta över dem?

– Nej, vissa jobb kommer att försvinna, men ännu fler kommer att skapas. AI är jättebra för vissa saker, men fullständigt värdelöst när det gäller andra saker som till exempel fantasi och kreativitet. AI är beroende av människan. 