Dir. 2024:83
Europaparlamentets och rådets förordning (EU) 2024/1689 av den
13 juni 2024 om harmoniserade regler för artificiell intelligens och om ändring av förordningarna (EG) nr 300/2008,
(EU) nr 167/2013, (EU) nr 168/2013, (EU) 2018/858, (EU)
2018/1139 och (EU) 2019/2144 samt direktiven 2014/90/EU, (EU)
2016/797 och (EU) 2020/1828 (förordning om artificiell intelligens) trädde i kraft den 1 augusti 2024. En särskild utredare ska se över behovet av nationella anpassningar till följd av EU:s förordning om artificiell intelligens
(AI-förordningen).
Utredaren ska bl.a.
lämna förslag på hur systemet för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad ska utformas,
* kartlägga övriga behov av nationell anpassning till följd av
AI-förordningen och föreslå hur sådana behov ska tillgodoses, och
* lämna nödvändiga författningsförslag.
Uppdraget ska slutredovisas senast den 30 september 2025.
Syftet med AI-förordningen är att förbättra den inre marknadens funktion genom att fastställa en enhetlig rättslig ram för bl.a. utveckling, utsläppande på marknaden och användning av system för artificiell intelligens (AI-system) i
EU i enlighet med unionens värden och genom att främja användningen av människocentrerad och tillförlitlig artificiell intelligens (AI). Förordningen ska samtidigt säkerställa en hög skyddsnivå för hälsa, säkerhet och grundläggande rättigheter enligt Europeiska unionens stadga om
de grundläggande rättigheterna.
AI-system kan användas inom ett stort antal sektorer och i många delar av samhället, inklusive över EU:s gränser.
Eftersom olika nationella regler kan leda till fragmentering av den inre marknaden och minska rättssäkerheten för leverantörer och tillhandahållare som utvecklar, importerar eller använder AI-system, är det viktigt med enhetlighet inom unionen. Genom fastställandet av harmoniserade regler för AI samt åtgärder till stöd för innovation, med särskild inriktning på små och medelstora företag, syftar AI-förordningen till att uppfylla EU:s mål att främja den europeiska människocentrerade AI-strategin och att bli världsledande inom utvecklingen av säker, tillförlitlig och etisk AI.
AI-förordningens regelsystem har utarbetats utifrån en riskbaserad metod för att skapa en strukturerad uppdelning mellan olika typer av AI-system och deras användningsområden.
Vissa AI-användningsområden anses så riskabla att de förbjuds enligt förordningen. För andra användningsområden gäller vissa
restriktioner och krav i form av bl.a. kontroll av efterlevnad
och registrering hos ansvarig myndighet. De AI-system som anses innebära liten eller ingen risk får med vissa undantag användas utan restriktioner. Utöver risknivån ställs det krav beroende på vilken roll och vilket ansvar en aktör har i AI-systemets värdekedja. Ett system för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad ska införas både på nationell nivå och på EU-nivå. Vidare ställs krav på etableringen av s.k. regulatoriska sandlådor i syfte att främja innovation och effektivisera regelefterlevnad för AI-system som ska sättas på marknaden.
AI-förordningen är direkt tillämplig i medlemsstaterna men förutsätter kompletterande nationella bestämmelser.
Förordningen trädde i kraft den 1 augusti 2024 men bestämmelserna ska börja tillämpas vid olika tidpunkter.
Merparten av AI-förordningens bestämmelser ska börja tillämpas
24 månader efter ikraftträdandet. De förbud som gäller för vissa användningsområden och de allmänna bestämmelserna i förordningen ska börja tillämpas 6 månader efter ikraftträdandet. Efterlevnaden av förbuden kommer dock att kontrolleras först efter inrättandet av den styrning och kontroll av efterlevnad som enligt förordningen ska ha skett inom 12 månader från ikraftträdandet. Vid den tidpunkten ska bl.a. förordningens bestämmelser om anmälda organ och styrningsstruktur börja tillämpas. Även bestämmelser om sanktioner börjar tillämpas 24 månader från förordningens ikraftträdande. Vissa bestämmelser, bl.a. om harmonisering av viss annan unionslagstiftning, ska börja tillämpas 36 månader efter ikraftträdandet.
Uppdraget att lämna förslag på hur systemet för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad ska utformas
AI-förordningen ställer krav på ett system för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad på nationell nivå och EU-nivå. Varje medlemsstat ska utse minst en anmälande myndighet och minst en
marknadskontrollmyndighet som nationella behöriga myndigheter.
Medlemsstaterna kan besluta att utse valfri typ av offentligt organ för att utföra de nationella behöriga myndigheternas uppgifter. För att öka den organisatoriska effektiviteten ska varje medlemsstat även utse en marknadskontrollmyndighet som ska fungera som gemensam kontaktpunkt för kontakterna med allmänheten, och andra motparter på nationell nivå och EU-nivå.
Av AI-förordningen framgår det vidare att efterlevnaden av förordningen ska säkerställas genom beslut om sanktioner och genomförande av andra verkställighetsåtgärder. Medlemsstaterna
ska vidta alla nödvändiga åtgärder för att säkerställa att bestämmelserna i förordningen genomförs, bl.a. genom att fastställa effektiva, proportionella och avskräckande sanktioner vid överträdelser av förordningens bestämmelser.
Artikel 5 i förordningen specificerar vilka användningsområden
för AI-system som är förbjudna. Ett sådant användningsområde är biometrisk fjärridentifiering i realtid för brottsbekämpande ändamål (artikel 5.1 h). Artikeln ger dock utrymme för medlemsstaterna att lagstifta om att det för vissa
syften och under vissa förutsättningar är tillåtet att göra undantag från ett sådant förbud. Huvudregeln är att användningen i så fall ska föregås av en tillståndsprövning. I
promemorian Förbättrade möjligheter för polisen att använda kamerabevakning lämnas förslag om för vilka syften Polismyndigheten och Säkerhetspolisen ska få använda system för biometrisk fjärridentifiering i realtid för brottsbekämpande ändamål (Ds 2024:11). Förslaget, och nödvändiga kompletteringar till detta, bereds för närvarande inom Regeringskansliet och genomförandet av artikel 5.1 h såvitt avser Polismyndigheten och Säkerhetspolisen omfattas därför inte av detta uppdrag. Det finns dock andra delar i AI-förordningen som kan påverka brottsbekämpande verksamheter,
t.ex. artikel 26.10 om biometrisk fjärridentifiering i efterhand. I den mån utredarens överväganden eller förslag berör sådana bestämmelser ska, utöver intresset att värna den personliga integriteten, intresset av en effektiv brottsbekämpning beaktas.
* lämna förslag på vilken eller vilka befintliga myndigheter som bör utses till anmälande myndigheter enligt AI-förordningen,
* lämna förslag på vilken eller vilka befintliga myndigheter som bör utses till nationella behöriga myndigheter enligt AI-förordningen,
lämna förslag på vilken befintlig myndighet som bör utses till
den marknadskontrollmyndighet som ska vara gemensam kontaktpunkt enligt AI-förordningen,
analysera och, vid behov, föreslå vilken eller vilka ytterligare befintliga myndigheter som bör utses som ansvariga
för att säkerställa en fungerande marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad i enlighet med AI-förordningen,
* analysera och, vid behov, lämna förslag på sådan nationell anpassning som krävs för att de föreslagna myndigheterna och andra berörda offentliga organ ska kunna utföra sina skyldigheter enligt AI-förordningen på ett effektivt och rättssäkert sätt,
* analysera och lämna förslag på vad som behövs för att uppfylla kravet på sanktioner vid överträdelser av förordningen, samt
* lämna nödvändiga författningsförslag.
AI-förordningen reglerar AI-system genom att införa vissa krav
och skyldigheter för relevanta marknadsaktörer som släpper ut dem på marknaden, tar dem i bruk eller använder dem i EU.
Skyldigheterna gäller särskilt för leverantörer och tillhandahållare av AI-system med hög risk. Även vissa AI-system som anses utgöra liten risk när systemen når marknaden omfattas av särskilda regler om transparens.
AI är en teknik i snabb utveckling som kräver tillsyn och ett säkert och kontrollerat område för experiment, med säkerställande av ansvarsfull innovation och integrering av ändamålsenliga skydds- och riskbegränsningsåtgärder. För att säkerställa en rättslig ram för detta ändamål ställs krav på att medlemsstaterna ska inrätta åtminstone en regulatorisk sandlåda för AI på nationell nivå, för att underlätta utveckling och testning av innovativa AI-system under strikt tillsyn innan dessa system släpps ut på marknaden eller på annat sätt tas i bruk. Medlemsstaterna kan också fullgöra denna skyldighet genom att delta i redan befintliga regulatoriska sandlådor eller gemensamt inrätta en sandlåda med en eller flera medlemsstater, i den mån detta deltagande ger de deltagande medlemsstaterna likvärdig nationell täckning. Regulatoriska sandlådor för AI kan inrättas i fysisk
eller digital form eller i hybridform och kan rymma både fysiska och digitala produkter.
Utöver regulatoriska sandlådor inkluderar förordningen andra implementeringsstöd och innovationsfrämjande åtgärder, som testning av AI-system med hög risk under verkliga förhållanden
utanför regulatoriska sandlådor. För att främja innovation ingår även inrättandet av en EU-databas för AI-system med hög risk, medlemsstaternas tillgång till poolen av experter i den vetenskapliga panel som ska inrättas och inrättandet av ett rådgivande forum. Som del i styrningsfunktion som också ska främja innovation ingår inrättandet av en AI-styrelse samt den
sedan tidigare inrättade AI-byrån som bl.a. har i uppdrag att bidra till genomförandet av unionsrätten om AI.
* analysera och lämna förslag på vad som behövs för att kunna inrätta en eller flera regulatoriska sandlådor i Sverige och ta ställning till vilken eller vilka befintliga myndigheter eller andra aktörer som bör utses för att uppfylla de krav som
föreslås,
* analysera och, vid behov, föreslå i vilken utsträckning Sverige bör delta i AI-förordningens föreslagna implementeringsstöd och innovationsfrämjande åtgärder samt på vilket sätt det ska ske, och
* lämna de författningsförslag och förslag på övriga åtgärder som är nödvändiga för att uppfylla kraven i AI-förordningen.
Utredaren ska analysera och redovisa konsekvenserna av förslagen i enlighet med kommittéförordningen (1998:1474) och förordningen (2024:183) om konsekvensutredningar. Utredaren ska särskilt redovisa förslagens konsekvenser för staten, kommuner, regioner, företag och andra relevanta aktörer som förväntas beröras av förordningen, samt utforma förslagen så att de ger så låga administrativa kostnader och andra fullgörandekostnader som möjligt. Utredaren ska även beskriva och beräkna eventuella budgetära konsekvenser. Om förslagen kan förväntas leda till kostnadsökningar för det allmänna, ska
utredaren föreslå hur dessa ska finansieras. Utredaren ska redovisa om förslaget har konsekvenser inom jämställdhetsområdet.
Utredaren ska hålla sig informerad om och beakta annat relevant arbete som pågår inom Regeringskansliet och inom EU, så som arbetet inom AI-byrån och AI-styrelsen samt inom grupper för genomförandet av förordningen i enlighet med delegerade akter och genomförandeakter.
Utredaren ska följa implementeringsarbetet för AI-förordningen
i de berörda nordiska länderna och i andra länder som utredaren bedömer vara av intresse.
Utredaren ska i den utsträckning det är lämpligt inhämta synpunkter från berörda myndigheter, organisationer och företag. Utredaren ska bl.a. hålla sig informerad om arbetet i
och resultatet av utredningen om ett implementeringsråd för genomförande av EU-rättsakter med konsekvenser för företag i Sverige (dir. 2024:51) respektive utredningen om förstärkt AI-förmåga i Sverige (dir. 2023:164).
Uppdraget ska slutredovisas senast den 30 september 2025.
(Finansdepartementet)