Herr talman! Regeringen föreslår att polisen ska få rätt att använda ansiktsigenkänning i realtid med hjälp av artificiell intelligens. Det är ju väl känt här nu.

Den överordnade rubriken är: ”Behovet av effektiva verktyg i brottsbekämpningen.” Argumentationen är alltså att grov brottslighet är ett stort problem och att ansiktsigenkänning i realtid är ett effektivt verktyg, bland andra verktyg naturligtvis. Jag har egentligen inga invändningar mot det. Men jag tycker att problematiseringen i den här propositionen kring teknik och förväntade utfall är en aning torftig.

Herr talman! Jag ska därför ge en kortversion av historien. Tekniken har runt 60 år på nacken. Utvecklingen tog fart efter terrorattackerna i New York i september 2001. Som ni minns blev fokus på övervakning, inte minst på flygplatser, ett viktigt begrepp. Tillgång till stora databaser i kombination med finansiering och förbättrad teknik gjorde det hela möjligt.

Amerikanska filmer och tv-serier, som Minority Report, en film från 2002, och kanske särskilt serien Person of Interest, som sändes 2011–2016, brukar ofta nämnas som referenser till den här utvecklingen. Den senare tror jag fortfarande finns kvar hos någon av de stora streamningstjänsterna.

Tekniken har förstås utvecklats avsevärt och når nästan perfektion i labbmiljö, men den är inte riktigt lika bra i verkligheten – det var det jag försökte gå in på tidigare – när bland annat ljusförhållanden och upplösning inte är perfekta. Det riskerar att leda till ett stort antal felaktiga utpekanden av och i värsta fall ingripanden mot oskyldiga som egentligen mest råkar vara på fel plats vid fel tidpunkt.

Detta kräver ett ökat fokus på frågor om etik och integritet, ansvarsutkrävande och transparens. Det ligger i sakens natur att människor som identifieras är okunniga om detta till dess ett ingripande sker. Som enskild individ kan man alltså inte komma undan, och hela systemet beskrivs ibland som ett paradigmskifte i övervakning. Det finns gott om exempel på snedvridning och felaktiga utpekanden. Olyckligtvis har det hittills drabbat inte minst färgade och kvinnor, egendomligt nog.

Herr talman! En annan angelägen fråga, som egentligen inte diskuteras i propositionen, är varifrån de bilder som används för igenkänning kommer. I Sverige är det inte tillåtet att använda bilddatabaser från exempelvis amerikanska Clearview AI, som är företaget som dammsuger internet på bilder från Facebook och andra sociala medier och varhelst de går att hitta. Det är som sagt inte tillåtet i Sverige, men det har förekommit. Svensk polis ska i princip använda sig av statliga register som körkort, pass, visum, egna bilder och eventuellt också bilder från övervakningskameror och kroppsburna kameror.

Herr talman! Vi behöver också nämna EU:s AI-förordning. EU:s förordning om artificiell intelligens, den så kallade AI-förordningen, är redan gällande rätt i Sverige. I Europaparlamentet har vi i Miljöpartiet ställt oss bakom förordningen, därför att det behövs en stark gemensam reglering av artificiell intelligens som värnar säkerhet och grundläggande rättigheter.

Utgångspunkten i förordningen är ett generellt förbud mot ansiktsigenkänning i realtid på allmänt tillgängliga platser. Det är en viktig princip. Den sätter en tydlig gräns mot en utveckling där staten normaliserar massövervakning i det offentliga rummet. Jag tar det igen: Utgångspunkten är ett generellt förbud. Men jag inser att det i förordningen, precis som ledamoten Ceimertz var inne på – med mina ord då – finns ett begränsat utrymme för medlemsstater att under strikta förutsättningar tillåta AI för vissa brottsbekämpande ändamål. Det är kanske inte en öppen dörr, men den finns där som en möjlighet.

För oss i Miljöpartiet var det viktigt att AI-förordningen ska genomföras i sin helhet, liksom därmed förbud mot ansiktsigenkänning i realtid med ett fåtal begränsande undantag. Vi är inte där än. Den sista delen av AI-förordningen har inte kommit på plats utan har skjutits framåt. Det är där de här högrisktillämpningarna finns. Det tycker jag är väldigt olyckligt. Jag ser med stor oro på de konsekvenser som användningen av AI-system för ansiktsigenkänning i realtid kan få för människors privatliv, integritet och fri- och rättigheter.

Institutet för mänskliga rättigheter har varnat för att förslaget innebär en inskränkning i skyddet för privat- och familjeliv och att det kan påverka även yttrandefrihet, demonstrations- och mötesfrihet och religionsfrihet. Civil Rights Defenders har pekat på risken för diskriminering, rasprofilering, en ökad känsla av kontroll och en utveckling där människor kanske avstår från att vistas i eller uttrycka sig i det offentliga rummet. Den typen av nedkylande effekter hör inte hemma i ett öppet och demokratiskt samhälle.

Miljöpartiet delar också den oro som flera remissinstanser för fram om att regeringen inte tillräckligt tydligt besvarar centrala frågor om hur lagstiftningen ska fungera i praktiken. Propositionen ger ingen klarhet i vilka företag som ska leverera systemen, vilken teknik som ska användas, hur träffsäkerheten ska säkerställas, hur felaktiga träffar ska hanteras eller hur staten ska garantera att data inte används av privata leverantörer för andra ändamål.

När det gäller denna typ av teknik räcker inte regeringens försäkran om att systemen ska användas ansvarsfullt. Kraven på transparens, kontroll och oberoende granskning måste vara höga redan från början. Vi vill påminna om att detta är en teknik som uppvisar betydande risker, inte bara på film och tv utan även i verkligheten, inte minst när det gäller diskriminerande utfall och rättssäkerhet.

Miljöpartiets utgångspunkt är därför att tillämpningen av förslaget måste vara mer restriktiv än regeringen föreslår i propositionen. Men vi har förståelse för att det kan finnas situationer där tekniken kan vara motiverad, till exempel för att i efterhand granska material inom ramen för brottsutredningar för att hitta försvunna personer eller offer för människohandel eller sexuellt utnyttjande och för att avvärja ett överhängande hot mot liv och säkerhet.

Det måste säkerställas att den information som genereras genom användning av AI-system för ansiktsigenkänning i realtid också stannar hos polisen. Data får under inga omständigheter riskera att spridas till eller användas av privata leverantörer. När avancerade analys- och övervakningsverktyg köps in från privata aktörer krävs det betydligt starkare kontroll och skydd för information, spårbarhet och oberoende kontroll än regeringen redovisar.

I syfte att säkerställa att användning av AI-system inte leder till diskriminering och massövervakning bör obligatoriska återkommande riskanalyser genomföras. Felaktig identifiering i en brottsbekämpande kontext kan få mycket allvarliga konsekvenser för den enskilda. Vi behöver därför löpande tester, dokumentation, granskning och uppföljning.

Särskilt viktigt är det att proportionaliteten kan bedömas på ett bra sätt och inte bara utifrån brottsbekämpningens intresse utan också utifrån teknikens påverkan på integritet och rörelsefrihet och med hänsyn till att människor inte ska känna oro för att de riskerar att bli igenkända i det offentliga rummet.

Slutligen, herr talman: För att se till att AI-system för ansiktsigenkänning i realtid tillämpas på ett rättssäkert, proportionerligt och lagligt sätt behöver användningen utvärderas innan lagförslaget kan permanentas. En sådan utvärdering skulle till exempel kunna omfatta hur ofta tekniken har använts, i vilka situationer, med vilka resultat, hur ofta falska träffar har uppstått, hur proportionalitetsbedömningar gjorts, om vissa grupper har drabbats oproportionerligt och hur underrättelseskyldigheten samt tillsynen fungerat. Vi föreslår därför en tidsbegränsning på förslagsvis fem år.

Jag står självklart bakom alla våra tre reservationer men yrkar bifall endast till reservation 3 under punkt 3 om utvärdering och misstankegrad.

(Applåder)

I detta anförande instämde Jacob Risberg (MP).

Överläggningen var härmed avslutad.

(Beslut skulle fattas den 26 maj.)