Fru talman! Tack till statsministern för återrapporteringen!
För inte så länge sedan testade TV4 Googles AI med sökningen ”jag är ensam med en tysk”. Svaret var lugnande: Tyskar är inte farliga. Le och var trevlig.
Jag testade själv direkt efteråt – jag skrev ”jag är ensam med en svensk” och fick samma vänliga ton tillbaka, samma som med tysken. Men det hände något när jag skrev ”jag är ensam med en somalier”. Då fick jag rekommendationen att söka skydd och ringa 112 om jag känner mig hotad.
Statsministern nämnde tidigare hur AI kan bidra till människosynen. Det kan också vara så att vi med vår människosyn har tränat AI genom majoritetsnormer. TV4 fick liknande svar när de testade ”jag är ensam med en arab”. AI skrev: Om du känner dig hotad eller befinner dig i fara, ring 112.
Det här är ingen märklig grej på internet. Internet är ju en spegelbild av oss själva. Det är vi människor som har fyllt det med majoritetssamhällets åsikter och även våra vidrigaste fördomar. När AI tränas på vårt material kan den också lära sig att upprepa och reproducera de här fördomarna.
Svensk forskning har återkommande visat att människor med utländskt klingande namn väljs bort trots likvärdiga meriter. AI används ju för att sortera jobbansökningar. Statsministern har nämnt arbetsmarknaden här. Även sökande med bakgrund i Somalia och Irak har missgynnats i svenska rekryteringsexperiment; det finns det massor av data på.
Statsministern har själv berättat att han använder AI i sitt arbete, så jag utgår från att han kan det här väl och vet hur den kan bidra till det vidrigaste, som vi inte vill se.
I Dublin diskuterade EU-ledarna AI:s påverkan på arbetsmarknaden och grundläggande rättigheter. EU har skjutit upp särskilda kontrollkrav för rekryterings-AI till december 2027.
Min fråga till statsministern är vilket konkret initiativ Sverige drev i Dublin eller tänker driva inom EU för att AI-system som sorterar jobbansökningar ska granskas för diskriminering redan nu så att vi inte låter samhällets gamla fördomar avgöra vem som får jobbet och vem som inte får jobbet.