Utbildningsutskottets utlåtande

2019/20:UbU20

Vitbok om artificiell intelligens

Sammanfattning

Utbildningsutskottet har granskat kommissionens vitbok om artificiell intelligens (AI). Utskottet anser att AI-teknik har stor potential vad gäller att utveckla både välfärden och konkurrenskraften, men även att AI medför risker och att det behövs nya och samlade insatser på området. Därmed välkomnar utskottet kommissionens vitbok om artificiell intelligens och den viktiga diskussion som nu inleds om Europas framtida förhållningssätt till AI.

Kommissionen föreslår i vitboken att ett ekosystem av spetskompetens ska byggas upp för att stödja utvecklingen av AI inom EU. Utskottet instämmer med kommissionen i att det finns ett behov att mobilisera resurser och se över vilka åtgärder som är nödvändiga för att EU ska kunna stärka sin kapacitet på AI-området. Samtidigt vill utskottet betona att det är av stor vikt att AI-forskning prioriteras på europeisk nivå. Det gäller stöd till både grundforskning och tillämpad forskning, såväl som riktade insatser för att främja spetskompetens. Utskottet vill här framhäva två saker: det är dels viktigt att säkerställa att hela kedjan från forskning till marknaden beaktas, t.ex. genom att samverkan mellan näringslivet och akademiska miljöer möjliggörs, men det är samtidigt av stor betydelse att insatserna inte entydigt riktas mot att kommersialisera AI-tillämpningar. Resultaten av AI-forskning har även stor potential att tillämpas i offentlig sektor och stöd till forskning med samhällsnytta bör främjas. Vidare handlar AI för samhällets bästa inte enbart om teknik, utan det finns även behov av att stödja tvärsektoriell AI-forskning. Med det i åtanke välkomnar utskottet att kommissionen föreslår initiativ inom ramen för programmet för ett digitalt Europa och Horisont Europa.

Utskottet anser vidare att tillgängliga data är av grundläggande betydelse och att det är viktigt att säkra arbetet för öppna och högkvalitativa data i EU. Framsteg inom databehandling i form av ökad beräkningskapacitet och lagringskapacitet är avgörande för forskning om och utveckling av AI-lösningar. För att fullt ut kunna utnyttja potentialen som finns inom AI är det viktigt att beakta att det ställer krav på digital infrastruktur, både specifik datorinfrastruktur (t.ex. högpresterande datorer) och att infrastrukturen i allmänhet ska kunna hantera stora mängder data.

Utskottet vill vidare lyfta fram de utmaningar som finns i fråga om kompetensbrister och understryka vikten av att säkerställa att det finns tillräckligt med kompetens för att potentialen med AI ska kunna utnyttjas fullt. Det handlar enligt utskottets uppfattning dels om att främja olika kompetenshöjande insatser, inte minst vidareutbildning, dels om att locka till sig och behålla världsledande forskare. Åtgärder för att stärka spetskompetensen och locka till sig och behålla kompetenta forskare är enligt utskottets uppfattning en förutsättning för att kunna utveckla de bästa AI-systemen.

Behövliga kompetensåtgärder rör emellertid inte bara insatser för att stärka kompetensen för att utveckla AI. Det är även av stor vikt att fler ges möjligheten att lära sig att utnyttja AI i både offentlig och privat sektor, vilket är en nödvändig komponent för att kunna dra full nytta av AI-tillämpningar. Därför behöver många olika yrkeskategorier i olika sektorer kunskap om AI. Universitet och högskolor bör uppmuntras att utöka sitt utbildningsutbud på AI-området.

Vidare ställer den allt mer digitaliserade samhällsekonomin nya krav på möjligheter till fort- och vidareutbildning av redan yrkesverksamma. Utskottet kan konstatera att i takt med att utvecklingen går framåt så kommer nya arbetstillfällen att skapas samtidigt som andra arbeten kan komma att förändras. Med det i åtanke är det av stor vikt att behovet av livslångt lärande och möjligheterna till omställning under arbetslivet utgör en integrerad del av EU:s förhållningssätt till AI. Det bör beaktas i olika former av vuxenutbildning vad gäller både utbud och innehåll. Det är utskottets uppfattning att det i sammanhanget är viktigt att även nyttja andra utbildningsaktörer än universitet och högskolor. Det är viktigt att dra nytta av all kunskap, även utanför universitets- och högskolevärlden.

Utskottet vill framföra att AI, liksom all teknologi, finns till för att tjäna människor, och inte tvärtom. Samtidigt innebär AI vissa särskilda risker. AI kan få oönskade effekter och användas på sätt som kränker individer och grupper. Utskottet kan konstatera att AI redan i dag används på ett sådant sätt av olika internationella aktörer med ett visst teknologiskt försprång. Det kan också finnas en övertro på tekniken som kan leda till oförutsedda konsekvenser. Ur det perspektivet innebär ett undermåligt regelverk inte bara att EU riskerar att halka efter för att för få utnyttjar AI-lösningar, det innebär också en potentiell fara för de grundläggande rättigheterna. Det är därför av fundamental vikt att ett framtida regelverk beaktar de etiska aspekterna av
AI-tekniken och att lagstiftningen på både svensk och europeisk nivå är adekvat för att säkerställa att riskerna med AI-minimeras. Utskottet vill i sammanhanget också påpeka vikten av att ett jämställdhets- och rättighetsperspektiv integreras i det fortsatta arbetet.

Utskottet anser att det är viktigt med ett proportionerligt regelverk som inte hämmar utvecklingen av AI men däremot balanserar riskerna och som värnar den inre marknadens funktionssätt i samband med att nya regler införs. Storleken på den inre marknaden ger EU goda möjligheter att påverka utvecklingen genom att definiera gemensamma standarder. Det är vidare av stor betydelse att ett långsiktigt perspektiv för ett framtida AI-regelverk antas, dels för att möjliggöra långsiktig planering i olika verksamheter och sektorer, dels med hänsyn till AI-teknikens utveckling och spridning. Det är därför enligt utskottet välkommet att kommissionen i vitboken lyfter fram att regelverket bör lämna utrymme för att ta hänsyn till den fortsatta utvecklingen. Utskottet vill i sammanhanget också lyfta fram vikten av att fokusera på gemensamma standarder inom EU, och inte nödvändigtvis på gemensamma lösningar. Därmed välkomnar utskottet att kommissionen i vitboken antar ett balanserat förhållningssätt till möjligheterna och riskerna med AI och att kommissionen förespråkar en utveckling av AI som är människocentrerad, etisk och hållbar och som respekterar grundläggande rättigheter och värden.

Utskottet vill också lyfta fram frågan om riskerna för och med teknik- och datamonopol, för att undvika att data som kan användas till det allmännas bästa begränsas till ett fåtal aktörer. Det gäller inte minst frågor kopplade till äganderätten över data, som behöver vara tydlig för att den information som samlas in inte ska missbrukas. Därmed välkomnar utskottet en fortsatt diskussion om transparens i AI-system.

I takt med den fortsatta teknikutvecklingen kommer allt fler sektorer och tjänster att utnyttja AI-system. Det är givet den utvecklingen viktigt att säkerställa att AI fungerar tillförlitligt, är robust och kan stå emot angrepp.

Utskottet kan också konstatera att utveckling och användning av AI för militära ändamål inte behandlas i vitboken men noterar likväl att AI-system kan användas till militära ändamål. Utbildningsutskottet vill också lyfta fram att utrikesutskottets i sitt yttrande (2019/20:UU4y) framhåller att Sverige driver på inom ramen för konventionen om vissa konventionella vapen för ett effektivt internationellt förbud mot dödliga autonoma vapensystem vilka är oförenliga med folkrättens krav.

Vidare har AI utrikes- och säkerhetspolitiska aspekter som bör tas på allvar, och den internationella utvecklingen bör beaktas i sammanhanget. Det är därför välkommet att EU för samtal med likasinnade länder och globala aktörer samt erkänner det arbete om AI som pågår i multilaterala internationella organisationer som FN, Europarådet, OECD, WTO, Unesco och den internationella telekomunionen (ITU).

Utskottet vill också framföra att man i det framtida arbetet med AI bör beakta medlemsstaternas kompetens inom politikområden där det är relevant. Det är utskottets uppfattning att det kommer att behövas insatser på både nationell nivå och EU-nivå inom AI-området.

Sammantaget välkomnar utskottet kommissionens vitbok om artificiell intelligens och dess bidrag till den pågående diskussionen om hur EU bäst kan dra nytta av AI. Det står enligt utskottet klart att AI är här för att stanna och kommer att spela en allt större roll både i enskilda människors liv och för den ekonomiska utvecklingen framöver. Utskottet anser därmed liksom kommissionen att AI är en strategisk teknik som erbjuder många fördelar för samhället, förutsatt att den är etisk och hållbar och respekterar grundläggande rättigheter och värden. AI kan ge stora effektivitetsvinster, stärka EU:s konkurrenskraft och bidra med lösningar på olika samhällsproblem. Utskottet ser också att AI kan bidra till kampen mot klimatförändringarna och andra globala utmaningar. Rätt hanterad, med beaktande av de risker som AI också är förknippad med, har AI stor potentiell samhällsnytta.

Granskade dokument

Vitbok om artificiell intelligens - en EU-strategi för spetskompetens och förtroende (COM(2020) 65)

Innehållsförteckning

Utskottets förslag till riksdagsbeslut

Redogörelse för ärendet

Ärendet och dess beredning

Utskottets granskning

Kommissionens vitbok om artificiell intelligens

Bakgrund

Vitbokens huvudsakliga innehåll

Upplysningar från regeringen

Yttranden från utrikesutskottet, trafikutskottet och näringsutskottet

Utskottets ställningstagande

Förteckning över granskade dokument

Utrikesutskottets yttrande 2019/20:UU4y

Trafikutskottets yttrande 2019/20:TU6y

Näringsutskottets yttrande 2019/20:NU8y

Utskottets förslag till riksdagsbeslut

Kommissionens vitbok om artificiell intelligens

Riksdagen lägger utlåtandet till handlingarna.

Stockholm den 28 maj 2020

På utbildningsutskottets vägnar

Gunilla Svantorp

Följande ledamöter har deltagit i beslutet: Gunilla Svantorp (S), Roger Haddad (L), Daniel Riazat (V), Ingemar Kihlström (KD), Jessica Rosencrantz (M), Louise Meijer (M), Niklas Wykman (M), Nina Lundström (L), Per Schöldberg (C), Johanna Haraldsson (S), Markus Selin (S), Mattias Vepsä (S), Niklas Karlsson (S), Angelika Bengtsson (SD), Katja Nyberg (SD), Martin Kinnunen (SD) och Maria Gardfjell (MP).

Redogörelse för ärendet

Ärendet och dess beredning

Den 19 februari 2020 publicerade kommissionen vitboken om artificiell intel-ligens (AI) – en strategi för spetskompetens och förtroende, COM(2020) 65.

Talmannen beslutade efter samråd med gruppledarna att vitboken skulle hänvisas till utbildningsutskottet för granskning med stöd av 9 kap. 20 § riksdagsordningen. Dokumentet hänvisades till utskottet den 11 mars 2020. Utskotten ska enligt 10 kap. 3 § andra stycket riksdagsordningen avge utlåtanden till kammaren över de EU-dokument som har hänvisats till dem.

Utbildningsutskottet beslutade den 2 april 2020 att ge utrikesutskottet, trafikutskottet och näringsutskottet tillfälle att senast den 7 maj 2020 yttra sig över vitboken. Samtliga yttranden finns i bilaga 2–4 i detta utlåtande.

Utskotten ska vid beredning av ett utlåtande inhämta behövliga upplysningar från regeringen enligt 10 kap. 10 § riksdagsordningen. Regeringen lämnade den 19 mars 2020 in en faktapromemoria om bl.a. vitboken (2019/20:FPM23) till riksdagen. Utbildningsutskottet överlade med statsrådet Anders Ygeman om vitboken den 7 maj 2020.

Utskottets granskning

Kommissionens vitbok om artificiell intelligens

Utskottets förslag i korthet

Riksdagen lägger utlåtandet till handlingarna.

Bakgrund

Vitboken om artificiell intelligens föregås av flera tidigare initiativ på AI-området från kommissionen, inklusive en strategi för AI i meddelandet Artificiell intelligens för Europa och uppföljningen av strategin i kommissionens meddelande om en samordnad plan om artificiell intelligens. Dessa kompletterades med meddelandet om att skapa förtroende för människocentrerad artificiell intelligens. Dessa meddelanden återges kortfattat nedan i bakgrundssyfte.

Meddelandet Artificiell intelligens för Europa

Riksdagen mottog i maj 2018 ett meddelande från kommissionen om Artificiell intelligens för Europa (COM(2018) 237). Kommissionen konstaterar i meddelandet att Europa ligger efter vad gäller investeringar i artificiell intelligens jämfört med stora ekonomier som USA och Kina. I meddelandet föreslår kommissionen ett AI-initiativ som bygger på en tredelad strategi: att öka de offentliga och privata investeringarna inom AI, förbereda inför de samhällsförändringar som AI kommer att medföra och garantera ett lämpligt etiskt och rättsligt ramverk. Kommissionen beskriver vidare att den ämnar lägga fram en samordnad plan för AI, eftersom ovanstående strategiska målsättningar kräver att man förenar sina krafter. Dessutom aviserade kommissionen även att den ämnade inrätta en högnivåexpertgrupp för AI. Gruppen inrättades under sommaren 2018 och består av intressenter och experter som har i uppdrag att utarbeta utkast till riktlinjer etiska riktlinjer för AI.

Meddelandet om artificiell intelligens togs fram som en del av ett paket med åtgärder som rör data inom ramen för den digitala inre marknaden. Meddelandet antogs kort efter att 24 medlemsstater och Norge åtog sig att samarbeta på AI-området genom en gemensam deklaration. Meddelandet svarade även mot Europeiska rådets slutsatser från den 19 oktober 2017, vari kommissionen uppmanades att lägga fram en europeisk strategi för AI. Kommissionen lyfte i meddelandet att deklarationen medförde ett starkt politiskt godkännande i fråga om att gå fram med ett initiativ på EU-nivå för att förstärka Europas konkurrenskraft på AI-området, förhindra att de socioekonomiska förändringar som AI-utvecklingen leder till gör att någon hamnar på efterkälken och försäkra att nyttjandet av den nya tekniken bygger på värderingar.

Meddelandet Samordnad plan om artificiell intelligens

Meddelandet En samordnad plan för artificiell intelligens (COM(2018) 795) publicerades i december 2018. Den samordnade planen är att betrakta som en uppföljning av meddelandet Artificiell intelligens för Europa. I den samordnade planen listas åtgärder som skulle inledas 2019 och 2020 samt riktlinjer för utvecklingen framöver. Enligt planen ska samordningen mellan kommissionen och medlemsstaterna fortsätta, och planen ska ses över och uppdateras regelbundet. Planen syftar till att maximera fördelarna med AI genom olika åtgärder, bl.a. genom olika initiativ för att öka investeringarna på området, utveckla etisk och tillförlitlig AI samt främja kompetensen på området.

Meddelandet Att skapa förtroende för människocentrerad artificiell intelligens

Både av meddelandet om artificiell intelligens för Europa och av meddelandet om att den samordnade planen framgår hur ett kommande steg i arbetet med AI på europeisk nivå är att ta fram ett lämpligt etiskt ramverk om AI, grundat på unionens värderingar och i enlighet med EU:s stadga om de grundläggande rättigheterna. För att utarbeta sådana riktlinjer inrättade kommissionen högnivåexpertgruppen för artificiell intelligens, som lämnade ett första utkast till etiska riktlinjer i december 2018. Efter ett samråd med berörda parter och möten med företrädare för medlemsstaterna lämnade AI-expertgruppen in ett reviderat dokument till kommissionen i mars 2019. Kommissionens meddelande om människocentrerad artificiell intelligens (COM(2019) 168) bygger på AI-expertgruppens arbete.

Enligt de riktlinjer som har utarbetats av AI-expertgruppen krävs tre komponenter för att artificiell intelligens ska vara tillförlitlig: den bör vara förenlig med lagstiftningen, den bör uppfylla etiska principer och den bör vara robust. Utifrån dessa tre komponenter anges i riktlinjerna sju centrala krav. Dessa krav är inte bindande och medför i sig inga nya rättsliga förbindelser. Vidare inledde kommissionen under hösten 2019 en pilotfas med berörda parter. Expertgruppen för AI ska utvärdera resultatet under 2020.

Del i ett paket för den digitala omställningen

Kommissionens ordförande Ursula von der Leyen betonade i de politiska riktlinjerna för kommissionen sommaren 2019 behovet av att Europa ska leda övergången mot en ny digital värld. Mot den bakgrunden presenterade kommissionen meddelandet Att forma EU:s digitala framtid (COM(2020) 67) som är avsett som en övergripande strategi från kommissionens sida för EU:s digitaliseringspolitik. Som ett led i denna övergripande strategi publicerades vitboken om AI samtidigt som ett meddelande om en datastrategi (COM (2020) 66). Meddelandet om en datastrategi innehåller referenser till AI och beskriver behovet av samlade europeiska insatser för att effektivare nyttja data som en strategisk resurs, bl.a. för att utveckla AI.

Vitbokens huvudsakliga innehåll

Vitboken om artificiell intelligens innehåller förslag till åtgärder som kommissionen anser behöver vidtas utifrån två huvudsakliga ingångar: dels för att främja utveckling och användning av AI, dels för att genom ett rättsligt ramverk hantera vissa av de risker som är kopplade till AI-användning. Kommissionens ambition är att främja förtroendeingivande och säker utveckling av AI i Europa som grundar sig i respekt för grundläggande värden och rättigheter. Utifrån detta är åtgärderna uppdelade i två huvudsakliga delar: främjandet av spetskompetens och främjandet av förtroende. Nedan följer en genomgång av de föreslagna åtgärderna.

Ett ekosystem av spetskompetens

Den första delen består av sex åtgärder i syfte att skapa ett ekosystem av spetskompetens som täcker hela värdekedjan från forskning och utveckling till användning av AI. De föreslagna åtgärderna beskrivs i punktform nedan.

Att, med beaktande av resultatet av samrådet kring vitboken om AI, till slutet av 2020 anta en ny version av den samordnade planen för AI. Kommissionen konstaterar i vitboken att den samordnade planen även skulle kunna behandla samhälleligt och miljömässigt välbefinnande som en huvudprincip för AI. Målsättningen med den samordnade planen är att attrahera över 20 miljarder euro per år i investeringar under den närmaste tioårsperioden.
Att främja etablerandet av test- och excellensmiljöer för AI i Europa. Enligt kommissionen är det nödvändigt att främja fler synergier och nätverk mellan olika europeiska AI-forskningscentrum och minska fragmenteringen på området inom Europa. Som ett led i det har kommissionen inom ramen för programmet för ett digitalt Europa föreslagit ett öronmärkt belopp för att stödja testcenter, som vid behov kan kompletteras med åtgärder inom Horisont Europa som en del av den fleråriga budgetramen 2021–2027. Tanken är att nationella, europeiska och privata investeringar ska kunna kombineras i test- och excellensmiljöerna. Kommissionen utesluter inte att det kan behövas ett nytt rättsligt instrument i detta syfte.
Att stötta universitet och institutioner i att attrahera forskare och professorer samt erbjuda världsledande masterprogram för AI. Kommissionen anser att EU:s AI-strategi måste understödjas genom att kompetensbrister åtgärdas. Som ett led i det arbetet vill kommissionen bilda och stödja universitetsnätverk på området genom programmet för ett digitalt Europa. Kommissionen menar vidare att den kommande uppdateringen av kompetensagendan skulle kunna användas i syfte att minska kompetensbristen på AI-området och konstaterar att kompetensutveckling även kommer att lyftas fram i den reviderade samordnade planen.
Att se till att minst en europeisk digital innovationsknutpunkt per medlemsstat har en hög specialisering mot AI samt att riskkapital för AI-utveckling tillgängliggörs via den europeiska investeringsfonden. Kommissionen avser att lansera ett pilotprojekt genom investeringsfonden om 100 miljoner euro för att tillhandahålla finansiering med eget kapital för AI-utveckling. Kommissionen avser också att utöka den summan betydligt framöver, med förbehåll för att förslaget går igenom i förhandlingarna om den kommande fleråriga budgetramen.
Att ett nytt offentlig-privat partnerskap för AI, data och robotik inrättas inom ramen för Horisont Europa. Kommissionen menar att det är viktigt för att se till att den privata sektorn deltar fullt ut i fastställandet av forsknings- och innovationsagendan på området. Enligt kommissionen kan ett sådant offentlig-privat partnerskap även samarbeta med andra offentlig-privata partnerskap inom Horisont Europa och de digitala innovationsknutpunkter som nämns ovan.
Att inleda öppna sektorsdialoger för att främja den offentliga sektorns användning av AI. Sektorsdialogerna ska användas för att förbereda ett specifikt ”Adopt AI-programme” som kommer att stötta den offentlig sektorn vid upphandling av AI-system. Kommissionen avser att prioritera hälso- och sjukvård, lokal- och kommunalförvaltning på landsbygden samt offentliga tjänsteleverantörer.

Utöver de sex åtgärderna lyfter kommissionen även fram EU:s datastrategi (COM(2020) 66) som läggs fram parallellt (se Bakgrund ovan). De sex åtgärder som föreslås i vitboken kompletterar datastrategin. Kommissionen konstaterar att det inte är möjligt att utveckla AI utan data, och att främja ansvarsfulla metoder för datahantering kommer att bidra till att bygga upp förtroende för AI-tillämpningar.

Kommissionen menar vidare att det är viktigt att investera i datorteknik och datorinfrastruktur. Som ett led i det arbetet har kommissionen föreslagit anslag på över 4 miljarder euro inom ramen för programmet för ett digitalt Europa för att stödja högpresterande datorsystem och kvantdatorsystem. Det inkluderar bl.a. AI, data och molnstruktur och vidareutvecklas i EU:s datastrategi.

Kommissionen lyfter även fram internationella aspekter och konstaterar bl.a. att EU ska fortsätta att samarbeta med likasinnade länder och globala aktörer med utgångspunkt i de europeiska värderingarna. Dessutom lyfter kommissionen fram att viktigt arbete med AI utförs i olika multilaterala forum som OECD, WTO och Unesco.

Ett ekosystem av förtroende: regelverk för AI

Den andra delen av vitboken består av en beskrivning av de grundläggande delar som ett regelverk för AI bör bestå av för att skapa vad kommissionen kallar ett ekosystem av förtroende. Utgångspunkten för denna del är att användningen av AI är förknippad med både risker och möjligheter, och kommissionen ser därför ett behov av att säkerställa allmänhetens förtroende för AI-system. Kommissionens tidigare initiativ på AI-området – strategidokumentet Artificiell intelligens för Europa (COM(2018) 237), den samordnade planen (COM(2018) 795) och i synnerhet meddelandet om att skapa förtroende för människocentrerad artificiell intelligens (COM(2019) 168) – innehåller olika aspekter av förtroende för AI.

Som beskrevs kortfattat i bakgrunden ovan har kommissionen inrättat en högnivåexpertgrupp för artificiell intelligens, som publicerade riktlinjer för tillförlitlig AI i april 2019. Utifrån dessa riktlinjer lade kommissionen i meddelandet om människocentrerad artificiell intelligens fram sju centrala krav för tillförlitlig AI:

• mänskligt agentskap och mänsklig tillsyn.

• teknisk robusthet och säkerhet.

• integritet och dataförvaltning.

• transparens.

• mångfald, icke-diskriminering och rättvisa.

• samhällets och miljöns välbefinnande.

• ansvarsskyldighet.

Utöver dessa riktlinjer, som för närvarande revideras efter att de tillsammans med en tillhörande bedömningslista har använts i ett pilotprojekt av över 350 deltagande organisationer, anser kommissionen att ett tydligt
EU-regelverk kan skapa förtroende för AI hos konsumenter och företag och därmed skynda på AI-utvecklingen. Med det i åtanke har kommissionen identifierat två typer av risker som finns med AI – risker som rör de grundläggande rättigheterna samt risker som rör säkerhet och ansvarsutkrävande.

Vad gäller risker som rör grundläggande rättigheter ser kommissionen risker för kränkningar gentemot yttrandefriheten, mötesfriheten, rätten till mänsklig värdighet, rätten att inte utsättas för diskriminering på grund av kön, ras eller etniskt ursprung, religion eller övertygelse, funktionsnedsättning, ålder eller sexuell läggning, beroende på vad som är tillämpligt inom olika områden, rätten till skydd av personuppgifter och privatlivet, rätten till ett effektivt rättsmedel och en opartisk domstol samt konsumentskydd. Dessa risker kan uppstå antingen på grund av brister i utformningen av AI-systemen eller på grund av bristfälliga data som leder till diskriminerande resultat.

När det kommer till säkerhetsrisker och ansvarsutkrävande konstaterar kommissionen att AI-teknik kan innebära nya risker för användare när den är inbäddad i produkter och tjänster. Det kan t.ex. röra sig om en självkörande bil som felaktigt identifierar ett föremål på vägen och därmed orsakar en olycka. Liksom med de risker som rör de grundläggande rättigheterna kan den här typen av problem uppstå på grund av designfel i AI-tekniken, tillgängligheten till och kvaliteten på de data som AI-tekniken utgår från eller andra problem kopplade till maskininlärning. Brist på bestämmelser på området kan, utöver att det medför risker för de berörda personerna, skapa rättslig osäkerhet för berörda företag och tillsynsmyndigheter. Rättslig osäkerhet riskerar på så vis att minska AI-tillämpningen generellt och den totala säkerheten vid nyttjandet av AI-teknik. Svårigheten att spåra potentiellt problematiska beslut som har fattats av AI-system i fråga om grundläggande rättigheter gäller även frågor som rör säkerhet och ansvar.

Kommissionen lyfter i sammanhanget fram att enligt direktivet om produktansvar är en tillverkare ansvarig för skador som orsakas av en felaktig produkt. När det gäller ett AI-baserat system kan det dock vara svårt att bevisa att produkten är felaktig, att skadan har uppstått och att det finns ett orsakssamband däremellan.

Eventuella anpassningar till EU:s befintliga rättsliga ram för AI

Kommissionen konstaterar i vitboken att det redan finns ett regelverk på EU-nivå för att skydda de grundläggande rättigheterna samt för produktsäkerhet och produktansvar. Dessa är fullt tillämpliga oaktat om rättsfall inbegriper AI eller ej. Kommissionen ser dock att det är viktigt att bedöma om nuvarande regelverk kan genomföras adekvat för att hantera de risker som AI skapar eller om det behövs anpassningar av vissa rättsliga instrument. Enligt kommissionen skulle det rättsliga ramverket kunna förbättras för att hantera de fem nedanstående situationerna och riskerna som AI medför.

Effektiv tillämpning och kontroll av att befintlig lagstiftning på nationell nivå och EU-nivå följs. Bristen på transparens i AI-system gör det svårt att identifiera och bevisa eventuella lagöverträdelser, vilket försvårar ansvarsutkrävande. Det kan därför vara nödvändigt att anpassa eller förtydliga lagstiftningen på vissa områden, t.ex. vad gäller ansvar. Kommissionen publicerade i samband med vitboken en separat rapport om ansvarsimplikationer som följer på AI-teknik, COM(2020) 64.
Begränsningar av tillämpningsområdet för gällande EU-lagstiftning. En viktig del av EU:s lagstiftning om produktsäkerhet gäller utsläppande av produkter på marknaden. Även om programvara, när den ingår i slutprodukten, måste överensstämma med de relevanta reglerna i EU-lagstiftningen om produktsäkerhet, är det en öppen fråga om fristående programvara omfattas av EU:s produktsäkerhetslagstiftning, bortsett inom vissa specifika sektorer. De allmänna EU-säkerhetsbestämmelserna som är i kraft i dag gäller för produkter, inte tjänster, och därför i princip inte heller tjänster som bygger på AI-teknik.
Förändrad funktionalitet hos AI-system. AI-system som kräver regelbund-na uppdateringar av programvara eller som bygger på maskininlärning kan medföra att produkter som integrerar dessa ändrar funktion under en livscykel, med nya säkerhetsrisker som följd. Dagens lagstiftning är främst inriktad på de säkerhetsrisker som finns vid tidpunkten för att en produkt släpps på marknaden.
Osäkerhet i fråga om ansvarsfördelningen mellan olika aktörer i leveranskedjan. I enlighet med EU:s lagstiftning om produktsäkerhet är det i allmänhet tillverkaren som är ansvarig för den produkt som släpps ut på marknaden, inbegripet alla dess komponenter. Regelverket kan emellertid bli oklart om AI läggs till av en annan part än tillverkaren efter det att produkten har släppts ut på marknaden. EU:s lagstiftning om produktansvar föreskriver vidare tillverkarnas ansvar och överlåter åt de nationella ansvarsreglerna att reglera ansvaret för andra aktörer i leveranskedjan.
Ändringar av säkerhetsbegreppet. Användningen av AI i produkter och tjänster kan ge upphov till risker som för närvarande inte uttryckligen behandlas i EU-lagstiftningen. Det kan t.ex. röra sig om personliga säkerhetsrisker eller risker till följd av att uppkopplingen bryts. Kommissionen menar att EU fullt ut bör utnyttja de verktyg som står till dess förfogande för att stärka sitt faktaunderlag om potentiella risker i samband med AI-tillämpningar.

Tillämpningsområdet för EU:s framtida regelverk – riskbaserad metod

Kommissionen menar att ett framtida AI-regelverk bör följa vad man kallar en riskbaserad metod, i syfte att adekvat balansera ett nytt AI-regelverk så att det dels är så effektivt som möjligt, dels inte innebär en oproportionerlig börda. Det innebär enligt kommissionen att AI-tillämpningar bedöms vara antingen hög risk eller inte hög risk. För AI som inte är hög risk bör redan existerande regelverk gälla helt och hållet, medan ett nytt regelverk bör gälla för AI med hög risk.

Kommissionen anser att en AI-tillämpning bör klassas som hög risk om den uppfyller två kumulativa krav. Det första kriteriet ställer frågan om AI-tillämpningen används i en sektor där betydande risker kan förväntas uppstå. Hög risk-sektorer bör listas och kontinuerligt uppdateras. Det kan t.ex. röra sig om hälso- och sjukvård. Det andra kriteriet behandlar AI-tillämpningens användning, och kontrollerar huruvida AI-tillämpningen används på ett sådant sätt att betydande risker sannolikt uppstår. Kriteriet antas t.ex. utesluta AI-tillämpningar inom hälso- och sjukvårdssektorn som inte normalt anses ha särskilt hög risk, som tidsbokningssystem eller liknande. Bedömningen av huruvida användningen ska anses ha hög risk skulle enligt kommissionen kunna baseras på effekterna för berörda användare, som t.ex. risken för personskador eller rättighetskränkningar.

Kommissionen noterar dock att det kan finnas undantag där AI-tillämpningar för vissa ändamål alltid bör betraktas som hög risk oavsett vilken sektor det rör sig om. Det gäller t.ex. rekryteringsprocesser och användning av AI för biometrisk fjärridentifiering.

Krav för AI-tillämpningar med hög risk

Kommissionen beskriver att det vid utformningen av det framtida AI-regelverket kommer att bli nödvändigt att besluta om vilka typer av obligatoriska krav som ska ställas på berörda aktörer för AI-tillämpningar med hög risk. Kommissionen anser att dessa, som i så fall skulle definieras i ett senare skede med tydliga riktmärken, skulle kunna bestå av följande centrala aspekter: träningsdata, data och registerföring, tillhandahållande av information, robusthet och korrekthet samt mänsklig tillsyn.

Vad gäller träningsdata, dvs. data som används för att träna AI-system, så bör det enligt kommissionen finnas krav som säkerställer att det kan ges rimliga garantier för att den efterföljande användningen av de produkter eller tjänster som AI-systemet möjliggör är säker, genom att det uppfyller de normer som fastställs i EU:s befintliga säkerhetsbestämmelser. Det kan t.ex. handla om att dataset som används är tillräckligt stora för att ge ett gott underlag. Det bör vidare finnas krav på att vidta rimliga åtgärder för att säkerställa att sådan senare användning av AI-system inte leder till resultat som medför diskriminering. Det bör därtill finnas krav som syftar till att säkerställa att människors integritet och personuppgifter skyddas på ett adekvat sätt vid användning av AI-baserade produkter och tjänster.

När det gäller registerföring och datalagring bör det finnas krav som syftar till att säkerställa att register över det dataset som används för att träna och testa AI-systemen, inklusive en beskrivning av de huvudsakliga egenskaperna och hur datasetet har valts ut, dokumenteras. Det bör även finnas krav på dokumentation av metoder, processer och tekniker för programmering och träning som används för att bygga, testa och validera AI-systemen. I visa fall kan det även vara motiverat att arkivera själva dataseten.

När det gäller tillhandahållandet av information bör det finnas krav om att klar och tydlig information om AI-systemens kapacitet och begränsningar tillhandahålls, inklusive om systemens ändamål och syften. Det gäller information om under vilka förhållanden ett AI-system kan förväntas fungera som avsett och den förväntade nivån av korrekthet när det gäller att uppfylla det angivna syftet. Det bör även finnas ytterligare information till allmänheten om icke uppenbara interaktioner med AI-systemet.

Vidare bör det finnas krav som syftar till att säkerställa AI-systemens korrekthet, eller åtminstone korrekt återspeglar sin grad av korrekthet. Det bör dessutom finnas krav om att resultat som AI tillhandahåller är reproducerbara, att AI-systemen kan hantera fel och att AI-systemen är motståndskraftiga mot angrepp.

Det bör även ställas krav som säkerställer mänsklig tillsyn över AI-systemen, t.ex. så att ett givet AI-system måste ha granskats och godkänts av en människa och att människor övervakar systemet när det är i drift.

Av kommissionens vitbok framgår vidare att det finns särskilda krav för biometrisk fjärridentifiering av t.ex. ansiktsbilder. Kommissionen beskriver i vitboken hur EU:s dataskyddsbestämmelser i princip förbjuder behandling av biometriska data i syfte att entydigt identifiera en fysisk person, utom under särskilda omständigheter. Enligt den allmänna dataskyddsförordningen kan sådan behandling endast ske på ett begränsat antal grunder, varav den viktigaste är hänsyn till ett väsentligt allmänintresse. I så fall måste behandlingen ske på grundval av EU-lagstiftning eller nationell lagstiftning, med beaktande av kraven på proportionalitet, respekt för det väsentliga innehållet i rätten till dataskydd och lämpliga skyddsåtgärder. Av detta följer enligt kommissionen att AI endast får användas för biometrisk fjärridentifiering, om sådan användning är vederbörligen motiverad, proportionerlig och omfattas av lämpliga skyddsåtgärder.

När det gäller geografiskt område och jurisdiktion menar kommissionen att det är nödvändigt att de krav som sätts upp är tillämpliga på alla relevanta ekonomiska aktörer som erbjuder AI-produkter och AI-tjänster inom EU, oavsett om de är etablerade inom unionen eller inte.

Frivillig märkning av AI-tillämpningar

För AI-tillämpningar som inte klassificeras som hög risk anser kommissionen att ett alternativ vore frivillig märkning av dessa AI-system (tillsammans med den redan gällande EU-lagstiftningen). Det skulle t.ex. kunna tas fram särskilda krav för den frivilliga märkningen, som intresserade aktörer sedan skulle behöva uppfylla. Den frivilliga märkningen skulle på så sätt kunna fungera som en kvalitetsstämpel, enligt kommissionen. En kombination av förhands- och efterhandskontroller skulle krävas för att säkerställa att reglerna följs i ett sådant system, anser kommissionen.

Styrning

I syfte att åstadkomma en effektiv kontroll av AI-produkter och AI-tjänster lyfter kommissionen fram europeisk styrning i form av ett ramverk för samarbete mellan nationella myndigheter som ett alternativ. En europeisk styrningsstruktur skulle kunna ha en rad olika uppgifter, som ett forum för regelbundet utbyte av information och bästa praxis, med kartläggning av nya trender och rådgivning i fråga om standardisering och om certifiering. Den bör också spela en nyckelroll när det gäller att underlätta genomförandet av den rättsliga ramen, t.ex. genom att utfärda riktlinjer, avge yttranden och göra expertutlåtanden. Den bör därför förlita sig på ett nätverk av nationella myndigheter, sektorsspecifika nätverk och tillsynsmyndigheter på nationell nivå och EU-nivå.

Upplysningar från regeringen

Regeringskansliets faktapromemoria

Regeringen lämnade den 19 mars 2020 faktapromemoria 2019/20:FPM23 Digital strategi, AI-vitbok och datastrategi till riksdagen. Av faktapromemorian framgår att regeringen är positiv till den ansats som kommissionen föreslår i vitboken. Regeringen menar att EU på övergripande nivå behöver stärka sin kapacitet att utveckla och använda AI. Vidare är regeringen positiv till att kommissionen undersöker hur befintliga regelverk, inklusive produktansvarsdirektivet och nationella regler som kompletterar detta, fungerar och analyserar om det finns behov av att se över reglerna med hänsyn till den nya tekniken. Regeringen välkomnar en inriktning på arbetet som inte utgår från en ögonblicksbild av hur den tekniska utvecklingen ser ut, utan strävar efter att reglerna ska kunna tillämpas på nya företeelser och nya tekniska fenomen. Det är också viktigt att även i fortsättningen värna en god balans mellan olika berörda intressen.

Regeringen menar att det är bra att kommissionens utgångspunkt för ett framtida generellt rättsligt regelverk för AI lyfter fram etiska riktlinjer för utveckling och användning av AI, vilket går väl i linje med regeringens nationella inriktning för AI (N2018.14). Likaså är det positivt att vitboken har ett genomtänkt jämställdhetsperspektiv, anser regeringen, och regeringen stöder kommissionens inriktning att som första steg göra en heltäckande analys av vilka risker med AI som behöver hanteras. Likaså delar regeringen kommissionens bedömning att det kommer att vara nödvändigt att tydliggöra vad som faktiskt ska regleras och vilket tillämpningsområde som ska gälla. Regeringen anser att regleringen bör vara teknikneutral och proportionerlig samt att den bör möjliggöra global konkurrenskraft och fri handel. Vidare välkomnar regeringen internationellt samarbete kring AI då det gynnar såväl EU som Sverige.

EU-överläggning med regeringen

Utbildningsutskottet överlade med statsrådet Anders Ygeman från Infrastrukturdepartementet om kommissionens vitbok om artificiell intelligens den 7 maj 2020 (prot. 2019/20:40).

Yttranden från utrikesutskottet, trafikutskottet och näringsutskottet

Utbildningsutskottet beslutade den 2 april 2020 att ge utrikesutskottet, trafikutskottet och näringsutskottet tillfälle att senast den 7 maj 2020 yttra sig över kommissionens vitbok om artificiell intelligens. Utskotten har inkommit med yttranden i de delar som berör respektive utskotts beredningsområde.

Utrikesutskottet framför bl.a. att AI på ett grundläggande sätt kan komma att förändra människors livsvillkor och säkerhet, och att många digitala system sträcker sig såväl tekniskt som organisatoriskt över statsgränserna i sammanlänkade nätverk. Vidare framför utrikesutskottet att det är viktig att EU:s medlemsländer, tillsammans med likasinnade, arbetar över statsgränserna för att möta hot och ta vara på möjligheterna med AI. Utrikesutskottet lyfter därtill Sveriges engagemang för ett effektivt internationellt förbud mot dödliga autonoma vapensystem och instämmer vidare i kommissionens uppfattning att det internationella samarbetet i fråga om AI måste främja respekten för de grundläggande rättigheterna, inbegripet mänsklig värdighet, mångfald, inkludering, icke-diskriminering och skydd av integritet och personuppgifter, samt att EU bör verka för att sprida dessa värden globalt.

Trafikutskottet välkomnar vitboken och framhåller bl.a. att AI som en strategiskt viktig teknik kommer att kunna medföra betydande möjligheter för EU:s medborgare och företag samt för det europeiska samhället som helhet. När det gäller ett ekosystem av spetskompetens ser trafikutskottet bl.a. positivt på kommissionens ansats och menar att EU på en övergripande nivå behöver stärka sin kapacitet att utveckla och använda AI. Trafikutskottet delar därtill kommissionens uppfattning om att data är en förutsättning för AI och framhåller att framsteg inom databehandling i form av ökad beräkningskapacitet och lagringskapacitet är avgörande för forskning om och utveckling av AI-lösningar. För att kunna realisera den potential som finns inom AI ställs stora krav på den digitala infrastrukturen i hela landet. Trafikutskottet delar även kommissionens uppfattning om att ett regelverk för AI bör inriktas på att minimera skaderisker och stöder inriktningen att som ett första steg göra en heltäckande analys av vilka risker med AI som behöver hanteras.

Näringsutskottet framför bl.a. att det välkomnar kommissionens vitbok och den gemensamma strategi om kunskapsuppbyggnad och främjande av spetskompetens som presenteras där. Vidare framför näringsutskottet att det är viktigt att värna den inre marknadens funktionssätt så väl som att försvara frihandeln och motverka olika former av protektionism samt att utvecklingen av AI inte får hämmas av onödiga kostnader orsakade av regelkrångel. Näringsutskottet anser även att det är bra att kommissionen gör en heltäckande analys av vilka risker som behöver hanteras i AI-frågan och poängterar vidare vikten av att kunskaps- och kompetensuppbyggnaden i fråga om AI sker på bred front och kommer alla EU-medborgare till del. Enligt näringsutskottet är det ytterst viktigt att regler som formar EU:s digitala framtid tas fram med ett integrerat informations- och cybersäkerhetsperspektiv, och näringsutskottet lyfter därtill fram de möjligheter som offentliga upphandlingar ger för att kunna genomföra uppskalningar av system för artificiell intelligens.

Samtliga yttranden finns i sin helhet som bilaga 2–4 till detta granskningsutlåtande.

Utskottets ställningstagande

Utskottet vill inledningsvis framföra att vi befinner oss i en föränderlig tid. I takt med att efterfrågan på AI och möjligheten att använda tekniken för att lösa verkliga problem ökar exponentiellt ställs också nya krav på ett genomtänkt och övergripande förhållningssätt från samhället. Digitaliseringen och AI-tillämpningar innebär stora möjligheter för samhället att skapa nya värden för individer, näringslivet, det civila samhället och offentlig sektor. AI-teknik har ett brett användningsområde och har en stor potential att förbättra och effektivisera ett antal sektorer. Dessutom har den stor potential att förbättra livskvaliteten för många människor, genom allt ifrån nöjestjänster till självkörande bilar och förbättringar i sjukvården. AI kan användas för att gagna samhället i stort och hantera gränsöverskridande utmaningar. Användningen av AI-system kan t.ex. spela en viktig roll för att uppnå målen i Agenda 2030 och bidra till den europeiska gröna given så väl som för att stärka välfärden. Artificiell intelligens är viktig för både tillväxt och välfärd.

Ett utmärkande drag för AI är dess förmåga att lära sig och bli smartare över tid. Framtidens AI kommer att vara ännu mer potent än den redan är i dag och kommer att utnyttjas i fler sektorer och av fler användare. AI har potential att spela en betydande roll för Europas framtida konkurrenskraft.

Bilden av EU:s position är i dag tudelad. Europas investeringar i AI har halkat efter. Omkring 2,4–3,2 miljarder euro investerades privat i AI i Europa 2016, jämfört med omkring 12,1–18,6 miljarder euro i Nordamerika och 6,5–9,7 miljarder euro i Asien. EU har emellertid stora möjligheter att dra nytta av stora volymer offentliga och industriella data vars potential för närvarande underutnyttjas, starka forskningscentrum, många innovativa företag och en konkurrenskraftig tjänstesektor. Det gäller inte minst Sverige, som ligger i framkant med att utnyttja digitaliseringens möjligheter, vilket också konstateras i den nationella inriktningen för AI (N2018.14). Med rätt insatser har EU goda möjligheter att dra nytta av AI-tekniken, både som producent och som användare.

Samtidigt ser utskottet att det finns risker förknippade med AI. Det kan handla om intrång i den personliga integriteten, brist på kontroller och översikt eller svåröverskådliga framtida konsekvenser som dagens regelverk inte är rustat för att bemöta. Det är utskottets uppfattning att dessa risker måste tas på allvar och beaktas i det framtida arbetet på AI-området.

Sammantaget ser utskottet stor potential med AI vad gäller att utveckla både välfärden och konkurrenskraften, men även att AI medför risker och att det finns behov av nya och samlade insatser på området. Utskottet välkomnar därför kommissionens vitbok om artificiell intelligens och den viktiga diskussion som nu inleds om Europas framtida förhållningssätt till AI.

Spetskompetens och forskning

I det sammanhanget vill utskottet betona att det är av stor vikt att AI-forskning prioriteras på europeisk nivå. Det gäller stöd till både grundforskning och tillämpad forskning, såväl som riktade insatser för att främja spetskompetens. Utskottet vill här framhäva två saker: det är viktigt att säkerställa att hela kedjan från forskning till marknaden beaktas, t.ex. genom att samverkan mellan näringslivet och akademiska miljöer möjliggörs, men det är samtidigt av stor betydelse att insatserna inte entydigt riktas mot att kommersialisera AI-tillämpningar. Resultaten av AI-forskning har även stor potential att tillämpas i offentlig sektor och stöd till forskning med samhällsnytta bör främjas. Vidare handlar AI för samhällets bästa inte enbart om teknik, utan det finns även ett behov av att stödja tvärsektoriell AI-forskning. Utskottet noterar att kommissionen i vitboken lyfter fram att den samordnade planen bör ses över framöver. Enligt utskottet vore det positivt med en sådan översyn, med hänsyn till vikten av att involvera medlemsstaterna och utbyta erfarenheter. Med det i åtanke välkomnar utskottet även att kommissionen föreslår initiativ inom ramen för programmet för ett digitalt Europa och Horisont Europa.

Liksom trafikutskottet noterade i sitt yttrande till utbildningsutskottet (2019/20:TU6y) har kommissionen i meddelandet om en strategi för data angett att det för närvarande inte finns tillräckligt med data tillgängliga för innovativt vidareutnyttjande. Tillgängliga data är av grundläggande betydelse. Utan data är det inte möjligt att utveckla AI-tillämpningar, och utskottet vill därför lyfta fram att det är viktigt att säkra arbetet för öppna och högkvalitativa data i både Sverige och EU. Framsteg inom databehandling i form av ökad beräkningskapacitet och lagringskapacitet är avgörande för forskning om och utveckling av AI-lösningar. Utskottet vill samtidigt poängtera att det är viktigt att algoritmfrågan lyfts fram och noterar att kommissionen konstaterar att det finns ett behov av att bygga broar mellan ämnesområden där arbetet för närvarande sker separat, t.ex. i fråga om maskininlärning och symboliska tillvägagångssätt där regler skapas genom mänskligt ingripande.

För att fullt ut kunna utnyttja den potential som finns inom AI är det viktigt att beakta att det ställer krav på digital infrastruktur, både specifik datorinfrastruktur (t.ex. högpresterande datorer) och att infrastrukturen i allmänhet ska kunna hantera stora mängder data.

Utskottet vill vidare lyfta fram de utmaningar som finns i fråga om kompetensbrister och understryka vikten av att säkerställa att det finns tillräckligt med kompetens för att potentialen med AI ska kunna utnyttjas fullt. Det handlar enligt utskottets uppfattning dels om att främja olika kompetenshöjande insatser, inte minst vidareutbildning, dels om att locka till sig och behålla världsledande forskare. Vad gäller det senare noterar utskottet kommissionens avsikt att bilda och stödja universitetsnätverk på AI-området. Åtgärder för att stärka spetskompetensen och locka till sig och behålla kompetenta forskare är enligt utskottets uppfattning en förutsättning för att kunna utveckla de bästa AI-system. Det underlättar dessutom för kompetensspridning runt om i Europa och kan bidra till positiva synergieffekter.

De kompetensåtgärder som behövs rör emellertid inte bara insatser för att stärka kompetensen för att utveckla AI. Det är även av stor vikt att fler ges möjlighet att lära sig utnyttja AI i både offentlig och privat sektor, vilket är en nödvändig komponent för att kunna dra full nytta av AI-tillämpningar. Därför behöver många olika yrkeskategorier i olika sektorer kunskap om AI. Universitet och högskolor bör uppmuntras att utöka sitt utbildningsutbud på AI-området.

Det är med ovanstående i åtanke välkommet att kommissionen noterar att den europeiska strategin för AI måste stödjas av en stark inriktning på att åtgärda kompetensbrister. Utskottet ser särskilt fram emot att ta del av den förstärkta kompetensagendan och den uppdaterade handlingsplanen för digital utbildning som kommissionen har aviserat. Det är viktigt att säkerställa en god matchning på framtidens arbetsmarknad, inte minst för att se till att AI-tekniken kommer alla till gagn.

Förtroende och regelverk

Kommissionen lyfter i vitboken fram grundstenarna för ett framtida regelverk för AI i Europa i syfte att skapa ett ekosystem av förtroende. Utskottet instämmer i kommissionens bedömning att det är avgörande för AI-teknikens framtid att skapa ett välgrundat förtroende för tekniken hos allmänheten, och välkomnar därför kommissionens ansats. Vidare noterar utskottet att kommissionen i vitboken diskuterar dels anpassningar till EU:s befintliga rättsliga ram för AI, dels att ett nytt särskilt regelverk kan behövas för AI med hög risk.

Utskottet vill inledningsvis framföra att AI, liksom all teknologi, finns till för att tjäna människor, och inte tvärtom. Samtidigt innebär AI vissa särskilda risker. AI kan få oönskade effekter och användas på sätt som kränker individer och grupper. Utskottet kan konstatera att AI redan i dag används på ett sådant sätt av olika internationella aktörer med ett visst teknologiskt försprång. Det kan också finnas en övertro på tekniken som kan leda till oförutsedda konsekvenser. Ur det perspektivet innebär ett undermåligt regelverk inte bara att EU riskerar att halka efter för att för få utnyttjar AI-lösningar, det innebär också en potentiell fara för de grundläggande rättigheterna. Det är därför av fundamental vikt att ett framtida regelverk beaktar de etiska aspekterna av AI-tekniken och att lagstiftningen på både svensk och europeisk nivå är adekvat för att säkerställa att riskerna med AI minimeras. Det gäller i synnerhet i fråga om värnandet av den personliga integriteten och arbetet mot diskriminering. Det är av särskild vikt att beakta den personliga integriteten och de etiska aspekterna av att introducera AI-lösningar i hälso- och sjukvården. Det kan t.ex. handla om att lyssna till den enskilda individens önskemål och behov av sådana lösningar och om att alltid göra en individuell bedömning av om övervakningsteknik ska användas eller inte. Det är därför välkommet att kommissionen lyfter fram riskerna med biometrisk fjärridentifiering och annan inkräktande övervakningsteknik så väl som att den noterar att bruket av AI innebär en högre risk inom vissa sektorer än i andra.

Utskottet vill i sammanhanget också påpeka vikten av att ett jämställdhets- och rättighetsperspektiv integreras i det fortsatta arbetet. Det är angeläget att främja mångfald inom ramen för AI-system, både vad gäller utveckling och utförande av AI-system och vad gäller träningsdata som ligger till grund för AI-systemet. Utskottet kan här se en roll för kommissionens föreslagna krav på AI-applikationer med hög risk, inte minst när det gäller mänsklig tillsyn av systemen.

Som utskottet tidigare konstaterat har utvecklingen av AI också stor potential att bidra med värde på många områden. Det är därför, som näringsutskottet påpekade i sitt yttrande (2019/20:NU8y) till utbildningsutskottet, viktigt med ett proportionerligt regelverk som inte hämmar utvecklingen av AI men däremot balanserar riskerna och värnar den inre marknadens funktionssätt i samband med att nya regler införs. Storleken på den inre marknaden ger EU goda möjligheter att påverka utvecklingen genom att definiera gemensamma standarder. På så sätt kan EU främja att AI-tillämpningar används på ett lämpligt sätt. Det är vidare av stor betydelse att ett långsiktigt perspektiv för ett framtida AI-regelverk antas, dels för att möjliggöra långsiktig planering i olika verksamheter och sektorer, dels med hänsyn till AI-teknikens utveckling och spridning. Det är därför enligt utskottet välkommet att kommissionen i vitboken lyfter fram att regelverket bör lämna utrymme för att ta hänsyn till den fortsatta utvecklingen. Utskottet vill i sammanhanget också lyfta fram vikten av att fokusera på gemensamma standarder inom EU, och inte nödvändigtvis på gemensamma lösningar. Därmed välkomnar utskottet att kommissionen i vitboken antar ett balanserat förhållningssätt till möjligheterna och riskerna med AI och att kommissionen förespråkar en utveckling av AI som är människocentrerad, etisk och hållbar och som respekterar grundläggande rättigheter och värden.

Utskottet noterar också att kommissionen lyfter fram frågan om transparens i diskussionen om krav för etisk AI. Det kan t.ex. handla om att säkerställa att adekvat information tillhandahålls om ett givet AI-systems kapacitet och begränsningar, men även om krav på dokumentation av metoder, processer och tekniker för programmering och träning som används för att bygga, testa och validera AI-systemen. Utskottet vill också lyfta fram frågan om riskerna för och med teknik- och datamonopol, för att undvika att data som kan användas till det allmännas bästa begränsas till ett fåtal aktörer. Det gäller inte minst frågor kopplade till äganderätten över data, som behöver vara tydlig för att den information som samlas in inte ska missbrukas. Därmed välkomnar utskottet en fortsatt diskussion om transparens i AI-system.

Utskottet kan också konstatera att utveckling och användning av AI för militära ändamål inte behandlas i vitboken men noterar likväl att AI-system kan användas till militära ändamål. Utbildningsutskottet vill därför lyfta fram att utrikesutskottet i sitt yttrande (2019/20:UU4y) framhåller att Sverige driver på inom ramen för konventionen om vissa konventionella vapen för ett effektivt internationellt förbud mot dödliga autonoma vapensystem vilka är oförenliga med folkrättens krav.