AI riskerar att göra oss alla till passagerare

En smal, välbyggd och ungdomlig västerländsk man med märkesklocka och kritvitt superleende. Det är den typiske andrepiloten, åtminstone enligt AI-genererade bilders algoritmiskt diskriminerande fördomar. Den här typen av snedvridna representationer sprids alltmer. Men bilden är inte från reklamens värld utan från ett svenskt universitet. Den pryder den drop in-handledning som universitetsbiblioteket i Karlstad erbjuder för Bing Copilot, det nya upphandlade verktyget för generativ artificiell intelligens, generativ AI. Det är ett verktyg som både lärare och studenter uppmanas att använda i sin akademiska verksamhet – i värsta fall till priset av utarmade miljöresurser och en trovärdighetskris för såväl demokratin som vetenskapen.

Att vi kan lita på myndigheter är av stor vikt. Millennieskiftets vision om ett kunskapssamhälle genljuder fortfarande i den officiella självbilden, men det blir alltmer uppenbart att vår tid också kännetecknas av ökande faktaresistens, vilseledande information och regelrätta desinformationskampanjer. Att ett universitet pryder sin webbplats med en konstgjord stereotyp bild är anmärkningsvärt inte bara för att det är en myndighet. Svenska lärosäten har traditionellt varit de samhällsinstitutioner som borgar för kritiskt granskad och trovärdig kunskap. Just trovärdighet är ett nyckelord. Inom sociala studier av vetenskap och teknik, STS, är det vedertaget att allmänhetens förmåga att tillgodogöra sig vetenskaplig kunskap inte enbart är en kognitiv process; lika viktigt är det förtroende man känner för kunskapsproducenten. Man lyssnar på den man litar på, och i en demokrati är tilliten till den vetenskapliga kunskapen avgörande för att medborgare och politiker ska kunna fatta informerade beslut.

I en serie artiklar under våren diskuterade vi de svenska lärosätenas enligt vår uppfattning aningslösa och okritiska integrering av generativ AI i undervisning och forskning (SvD 1/5, 17/5, Universitetsläraren 10/6). Vi menar att de genvägar som utlovas med artificiell intelligens, som genererar bilder och färdiga texter genom en knapptryckning, är kontraproduktiva när det kommer till kunskapsbildning. Att den enormt resursslukande generativa AI-tekniken dessutom är en katastrof för klimatet och för sociala arbetsförhållanden i utvecklingsländer gör inte saken bättre. Sammantaget riskerar implementeringen av den nya tekniken att slå undan benen för svenska universitet och högskolor som kunskapsinstitutioner och för tilliten till deras lärare och forskare.

Efter den initiala upphaussningen av generativ AI börjar nu problemen framstå i tydligare dager. generativ AI har visat sig hallucinera och framställa rena fantasier som fakta. Det har även hävdats att det som produceras med hjälp av språkmodeller och maskininlärningssystem som Chat GPT är skrönor – bullshit, i filosofen Harry Frankfurts mening; systemen är till sin funktion likgiltiga inför om det som skapas är sant eller inte.

När AI-genererade artiklar tar sig igenom granskningsförfarandet och publiceras i vetenskapliga tidskrifter uppstår det bokstavligen så kallad scientific littering, vetenskaplig nedskräpning, och fake science, falsk vetenskap.

Det är en utveckling som hotar att korrumpera den vetenskapliga litteraturen, vilseleda forskare och förvränga systematiska översikter. Vi ser också hur såväl vetenskapliga som skönlitterära författare har börjat anmäla upphovsrättbrott när generativ AI ompaketerar och plagierar deras texter. En författare upptäckte till sin förvåning att hon fått 29 nya böcker som hon aldrig skrivit publicerade i sitt namn, bara under den senaste veckan. Ytterst få vill nämligen läsa en bok som en robot har skrivit. Därför simuleras eller kapas författaridentiteter av dem som gärna tjänar pengar på andras renommé.

Parallellt med försöken att öka, men i realiteten undergräva, kreativiteten med hjälp av generativ AI, finns en annan blind fläck – det obefintliga riskmedvetandet om teknikens konsekvenser för människa och miljö ur ett hållbarhetsperspektiv. Servrar för generativ AI förbrukar kopiösa mängder energi och leder till omfattande förbrukning av kritiska metaller. Arméer av osynliga spökarbetare i fattiga länder utnyttjas av techföretagen för att polera och förädla data så att AI skall verka smart. Men, som filosofen Nolen Gertz påpekar, även om hypen kring AI ser ut att försvinna, har själva tekniken inte gjort det. Det har inte heller de svenska lärosätenas förhoppningar, tydligen.

Med anledning av den kritik som vi riktade mot universitetsledningarnas entusiastiska hållning till integrering av generativ AI hölls den 29 maj ett panelsamtal vid Karlstads universitet. Deltagare var, förutom en av denna artikels författare, representanter för universitetsledningen samt UPE, den universitetspedagogiska enhet som har i uppgift att implementera den generativa AI-tekniken. Vi försökte framhålla att lärosätena måste känna tillit till de klassiska generiska kompetenserna – som att skriva, läsa, analysera, tolka och skapa – och att det vid sidan av att bejaka teknikutvecklingen är vår huvuduppgift att fortsatt lära ut dessa. Vi pekade också på den självklara uppgiften för forskarsamhället att kritiskt granska samhällsomvälvande teknisk utveckling. Universitetsledningen gav i stället uttryck för en rädsla att bromsa takten och uppfattningen att det är vår skyldighet att rusta studenterna för framtidens samhälle. Att låta bli att integrera generativ AI är ”inget alternativ” eftersom teknikutvecklingen är ostoppbar. Tekniken är visserligen inte felfri, men det är ju inte människan heller, som en datavetare vid UPE påpekade.

Nej, det är sant. Människor begår misstag, och därför har man i den akademiska traditionen utvecklat former för att granska det som människor skapar – kritik, seminarier, disputationer, sakkunniggranskningar. Dessa förfaranden bygger på att människor, som själva besitter och producerar kunskap och som har solid erfarenhet av de fel som kan uppstå, granskar andra människors prestationer. Färdigheter i detta byggs mödosamt upp under våra universitetsutbildningar, och med dessa färdigheters hjälp kan vi också upptäcka när AI hallucinerar och hittar på. Men dessa förmågor är ett slutmål för utbildningarna och ingenting som studenterna har med sig från början. Hur ska de kunna utveckla självständig kunskap, som enligt högskoleförordningen är målet med all akademisk utbildning, när en maskin gör jobbet åt dem? Hur skall de kunna avgöra om det AI-genererade är rimligt eller inte? Och vad händer när vi i några generationer har använt AI på det sätt som universitetsledningarna hoppas, nämligen som en komplett personlig handledare som agerar ”utforskare”, ”bedömare”, ”bollplank” och ”meningsmotståndare” – vem skall då ha kompetensen att granska generativ AI?

Att oreserverat integrera de nya AI-verktygen på universitet och högskolor är ett felslut. Det betyder inte att en teknik som utlovar stora landvinningar ska uteslutas, men lärosätena, liksom övriga myndigheter, behöver samtidigt utveckla kritisk kännedom om generativ AI. Det krävs djupa kunskaper för att säkerställa att tekniken hjälper och inte stjälper. Vi har redan sett följderna av digitaliseringsvågen inom skolan vid millennieskiftet. De digitala hjälpmedlen har enligt OECD haft en långsiktigt hämmande effekt på individernas förmåga att läsa och uttrycka sig som kan vara själva orsaken till de senaste decenniernas kunskapsras. Nu går universitet och högskolor i bräschen för en ny digitaliseringsrevolution, där tekniken inte bara förenklar för människan, utan i princip ersätter hennes kognitiva förmågor.

Vi förstår lockelsen med en andrepilot på bildningsresan, men risken med generativ AI är att den tar över huvudpilotens uppgifter och gör oss alla till passagerare.

Patrik Möller
Fil.dr i idéhistoria vid Karlstads universitet

Kristian Petrov
Docent i idéhistoria vid Karlstads universitet, medlem i Humtank