DO varnar för att AI kan bidra till ökad diskriminering
Den ökande användningen av AI-system i arbetslivet riskerar att bidra till mer systematisk och konsekvent diskriminering, varnar Diskrimineringsombudsmannen, DO, i en ny rapport. Det finns enligt myndigheten också en risk att beslutsfattare tolkar systemens utfall som värderingsfria.
DOs rapport är en slutredovisning av ett regeringsuppdrag att fördjupa kunskaperna om diskriminering vid användning av artificiell intelligens, AI. DO har anlitat två forskargrupper för att ta fram materialet.
Resultatet visar att AI och liknande automatiserat beslutsfattande blir allt vanligare i arbetslivet. Och eftersom AI tränas på befintlig data som återspeglar historiska och nutida ojämlikheter, så riskerar systemen att fatta eller föreslå beslut som reproducerar skillnaderna.
Forskarna ser också en risk för så kallat automation bias, det vill säga att beslutsfattare okritiskt accepterar utfallet av AI-systemet som något objektivt och värderingsfritt.
DO menar att AI-systemen måste bli mer transparenta för att motverka diskriminering och vill se en tillsynsmyndighet som kan granska hur ett AI-system utvecklas.
DO anser också att det måste tydliggöras vem som bär ansvaret vid diskriminering med koppling till AI-system.
Detta är en nyhetsartikel. Publikts nyhetsrapportering ska vara saklig och korrekt. Tidningen har en fri och självständig ställning gentemot sin ägare, Fackförbundet ST, och utformas enligt journalistiska principer samt enligt spelreglerna för press, radio och TV.