DO varnar för att AI kan bidra till ökad diskriminering

DISKRIMINERING2023-11-23

Den ökande användningen av AI-system i arbetslivet riskerar att bidra till mer systematisk och konsekvent diskriminering, varnar Diskrimineringsombudsmannen, DO, i en ny rapport. Det finns enligt myndigheten också en risk att beslutsfattare tolkar systemens utfall som värderingsfria.

DOs rapport är en slutredovisning av ett regeringsuppdrag att fördjupa kunskaperna om diskriminering vid användning av artificiell intelligens, AI. DO har anlitat två forskargrupper för att ta fram materialet.

Resultatet visar att AI och liknande automatiserat beslutsfattande blir allt vanligare i arbetslivet. Och eftersom AI tränas på befintlig data som återspeglar historiska och nutida ojämlikheter, så riskerar systemen att fatta eller föreslå beslut som reproducerar skillnaderna.

Forskarna ser också en risk för så kallat automation bias, det vill säga att beslutsfattare okritiskt accepterar utfallet av AI-systemet som något objektivt och värderingsfritt.

DO menar att AI-systemen måste bli mer transparenta för att motverka diskriminering och vill se en tillsynsmyndighet som kan granska hur ett AI-system utvecklas.

DO anser också att det måste tydliggöras vem som bär ansvaret vid diskriminering med koppling till AI-system.

Detta är en nyhetsartikel. Publikts nyhetsrapportering ska vara saklig och korrekt. Tidningen har en fri och självständig ställning gentemot sin ägare, Fackförbundet ST, och utformas enligt journalistiska principer samt enligt spelreglerna för press, radio och TV.

Typ
Vet du mer om det ämne som artikeln handlar om, eller om du har tips till redaktionen i något annat ämne, kan du lämna ditt tips här. Du kan också skicka ett mejl till redaktionen.
Om du anser att artikeln innehåller fel, beskriv här vad dessa fel består i. Du kan också skicka ett mejl till redaktionen.

Om du vill debattera det ämne artikeln handlar om, kan du skicka in en debattartikel till Publikt för publicering under vinjetten Debatt. Publikt publicerar inte anonyma debattinlägg, du måste därför alltid ange ditt namn och dina kontaktuppgifter. Redaktionen förbehåller sig rätten att korta och redigera insända debattartiklar. Skicka ditt inlägg som ett Worddokument på mejl till redaktionen.

Innehållet i detta fält är privat och kommer inte att visas offentligt.
CAPTCHA