Försäkringskassans AI diskriminerar och lämnar utsatta i kylan
Svenska Dagbladet avslöjade nyligen att Försäkringskassan använder AI-verktyg för att sortera vab-ansökningar. Algoritmerna verkar ofta peka ut kvinnor, låginkomsttagare och personer med utländsk bakgrund som potentiella fuskare, vilket kan leda till långa väntetider och utredningar för ensamstående föräldrar utan rimlig grund. Detta har väckt frågor om rättssäkerhet och fördomar i AI-användning.
Maskiner förstärker människors fördomar
AI-algoritmer kan bara imitera människor, inte tänka själva. När de tränas på våra lagar och normer absorberar de även våra fördomar. Detta innebär att beslut som fattas av AI kan vara allt annat än neutrala. Utan insyn i hur Försäkringskassans algoritmer fungerar eller tränas är det svårt att lita på att de hanterar ansökningar rättvist.
AI i fel händer – en samhällsutmaning
AI är ett kraftfullt verktyg som kan hantera stora datamängder och förenkla processer. Men det är inte lämpligt för uppgifter som kräver tolkning eller där besluten har långtgående konsekvenser för människor. Verktyget saknar förmåga att motivera sina beslut och kan därför inte ansvarsutkrävas – en grundläggande princip för rättssäker förvaltning.
Politiker använder AI – och följer samma mönster
AI:s användning är inte begränsad till myndigheter. Dagens Nyheter avslöjade nyligen att en riksdagsledamot använt ChatGPT för att formulera 180 frågor till regeringen. Det är en oroande trend, där AI används i sammanhang där mänskligt omdöme borde vara centralt.
Kan vi lita på AI-styrda myndigheter?
Användningen av AI i myndighetsutövning väcker en grundläggande fråga om tillit. Sverige bygger på idén att staten ska skydda sina medborgare och fatta rättvisa, opartiska beslut. När algoritmer ersätter handläggare undermineras denna tillit. Ska vi verkligen acceptera att datorprogram sorterar ansökningar och avgör våra rättigheter?
Kommentera: