Regeringskansliet
Faktapromemoria 2020/21:FPM109
Förordning om artificiell intelligens | 2020/21:FPM109 |
Infrastrukturdepartementet
Dokumentbeteckning
COM(2021) 206
Proposal for a Regulation laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts.
Sammanfattning
Den 21 april 2021 presenterade kommissionen sitt förslag till en förordning om harmoniserade regler för artificiell intelligens (AI) inom ramen för strategin för det digitala Europa. Kommissionen annonserade i Vitboken om artificiell intelligens, som presenterades den 19 februari 2020, ambitionen att föreslå ett rättsligt ramverk för AI med utgångspunkt i etiska riktlinjer för utveckling och användning av AI.
Syftet med förslaget till förordning är att harmonisera regler för AI inom EU, stärka den inre marknadens konkurrenskraft och funktion samt att undvika fragmentering på den inre marknaden, skydda hälsa, säkerhet och grundläggande rättigheter, främja de positiva aspekterna av AI och säkerställa fri rörlighet av
Förslaget använder ett riskbaserat angreppsätt i syfte att skapa en strukturerad uppdelning mellan olika typer av
1
sandlådor föreslås i syfte att främja innovation och effektivisera | 2020/21:FPM109 |
regelefterlevnad för kommande |
|
Regeringen är positiv till kommissionens arbete att skapa enhetlig reglering | |
för AI inom EU. AI har använts länge och används av många företag och | |
inom offentlig sektor i dag. Potentialen är betydande och Sverige ska vara | |
ledande i att ta tillvara möjligheterna som användningen av AI kan ge och | |
regeringen ser därför positivt på |
|
på övergripande nivå stärka sin kapacitet att utveckla och använda AI. | |
Det är viktigt att samhället har förtroende för tekniken och dess användning. | |
Regeringen stödjer därför inriktningen att ta fram regler som ökar | |
transparens, tydliggör vilka användningar som ska vara förbjudna respektive | |
möjliggör tillsyn och efterlevnad. Samtidigt behöver reglerna vara | |
proportionerliga i förhållande till de syften som anges, utgå från principen | |
om teknikneutralitet och inte vara för detaljerade eller administrativt | |
betungande. | |
Regeringen välkomnar att förslaget tar sin grund i mänskliga rättigheter | |
inklusive rätten till privatliv, yttrandefrihet, |
|
jämställdhet, men även personlig integritet, skydd av fysiska personer i fråga | |
om behandling av personuppgifter och informations- och cybersäkerhet. |
1 Förslaget
1.1Ärendets bakgrund
Förslaget till förordning läggs fram inom ramen för EU:s digitala strategi. Europeiska rådet angav i slutsatser från oktober 2020 att EU ska vara världsledande i utvecklingen av säker, tillförlitlig och etisk artificiell intelligens. Europaparlamentet har därutöver vid flera tillfällen uppmanat kommissionen att lägga fram lagförslag för att säkerställa de grundläggande rättigheterna och samtidigt att potentialen med AI kan nyttjas i ökad utsträckning. En oberoende expertgrupp på hög nivå för
Kommissionens ordförande Ursula von der Leyen meddelade i sina politiska riktlinjer i juli 2019 att kommissionen skulle ta fram en lagstiftning om AI. Kommissionen publicerade den 19 februari 2020 Vitbok om artificiell intelligens - en
2
nationella inriktning för AI (N2018/03008) och välkomnade innehållet i | 2020/21:FPM109 |
vitboken i |
|
(2019/20:FPM23). Vitboken följdes av en öppen allmän konsultation. |
1.2 Förslagets innehåll
Syftet med förslaget till förordning är att harmonisera regler för AI inom EU, skydda grundläggande rättigheter, främja de positiva aspekterna av AI och säkerställa fri rörlighet av
Förordningen har följande närmare angivna syften: 1) säkerställa att AI- system som placeras och används på den inre marknaden är säkra och utvecklas och används i enlighet med grundläggande rättigheter, i enlighet med EU:s stadga om de grundläggande rättigheterna, och unionsvärden, 2) säkerställa rättssäkerhet och förutsebarhet för att underlätta investeringar och innovation inom AI, 3) förbättra styrning och effektiv tillämpning av befintliga lagar om grundläggande rättigheter och säkerhetskrav som är tillämpliga på AI och 4) underlätta utvecklingen av en inre marknad för lagliga, säkra och pålitliga
Avdelning I anger tillämpningsområde och definitioner. Förordningen ska tillämpas på:
-tillhandahållare av
-de som använder
-användare och tillhandahållare av
En definition av
3
delegerade akter. |
2020/21:FPM109 |
bruk ska inte omfattas av förordningen. | |
Avdelning II innehåller bestämmelser om att vissa användningar av AI- | |
system ska vara förbjudna. Förbudet gäller att placera sådana system på | |
marknaden, ta systemen i bruk och att använda systemen. |
Förbuden gäller för:
-
-
-
-
Avdelning III innehåller bestämmelserna om att
4
som högrisk. Ett antal |
2020/21:FPM109 |
förordningen. Kommissionen föreslås få rätt att genom delegerade akter vid | |
behov lägga till ytterligare |
|
Exempel på |
|
av reglerade produkter t.ex. maskiner som för användning kräver tillstånd | |
enligt vissa hänvisade rättsakter. Andra exempel är |
|
vid gränskontroll eller för att bedöma om fysiska personer har rätt till bidrag. | |
kategorisera fysiska personer är ytterligare ett exempel. | |
en granskningsprocess av en behörig offentlig aktör och beviljas en CE- | |
märkning. För att beviljas en |
|
adekvat nivå av transparens i hur |
|
relevant dokumentation av systemets funktion för tillsyn och säkerställa | |
användning av data som är av hög kvalitet. Olika krav gäller beroende på | |
vilken roll en aktör har i förhållande till |
|
tillhandahållare än en användare av |
|
sådant sätt att de, med hänsyn till det avsedda syftet, uppnår en lämplig nivå | |
av noggrannhet, robusthet och cybersäkerhet som upprätthålls under | |
systemens hela livscykel. | |
I avdelningen föreslås också att varje medlemsstat ska utse eller etablera | |
minst en tillsynsmyndighet som ska ansvara för att säkerställa att de | |
nödvändiga förfarandena följs. | |
Avdelning IV innehåller informations- och transparenskrav för hur AI- | |
system som är avsedda att interagera med fysiska personer ska utformas och | |
utvecklas så att fysiska personer blir informerade om att de interagerar med | |
informeras om de exponeras för |
|
känslor eller biometrisk kategorisering. Detta ska dock inte gälla för AI- | |
system som med stöd i lag används för brottsbekämpande ändamål. Det ska | |
framgå att bilder eller rörlig media som kan uppfattas som äkta men som är | |
manipulerat eller genererat av |
|
av |
|
garantera rätten till yttrandefrihet, konstnärlig frihet och frihet för forskning i | |
enlighet med Europeiska unionens stadga om de grundläggande rättigheterna | |
(26 oktober 2012, 2012/C 326/02) föreslås. | |
Avdelning V innehåller regler som fokuserar på att underlätta för innovation, | |
i huvudsak genom användning av regulatoriska sandlådor. Medlemsstaterna | |
ska särskilt ge stöd och underlätta för små företag och uppstartsföretag. | |
Avdelning VI behandlar frågor om offentliga organ som föreslås inrättas för | |
stöd till aktörer, för tillsyn och för att säkerställa efterlevnad av förordningen. | |
En Europeisk styrelse för artificiell intelligens inrättas och krav på | |
medlemsstaterna att inrätta eller utse offentliga organ för regelefterlevnad | |
5 |
och rapportering samt deltagande i den Europeiska styrelsen för artificiell | 2020/21:FPM109 |
intelligens föreslås. Även Europeiska kommissionen får funktioner och | |
ansvar i dessa delar. | |
Avdelning VII innehåller regler om en |
|
katalog över |
|
databasen innan systemet tas i bruk eller ut på den inre marknaden. | |
Informationen i databasen ska vara tillgänglig för allmänheten. | |
Kommissionen och medlemsstaterna ska samarbeta för att för att utveckla | |
och förvalta databasen. Kommissionen har ansvaret för databasen. | |
Avdelning VIII innehåller bestämmelser om marknadskontroll och | |
rapporteringsskyldigheter för tillhandahållare när det gäller utredning av AI- | |
relaterade incidenter och tekniska problem. Det anges vilken typ av | |
information som tillhandahållare av |
|
behöriga myndigheter, vilken information som myndigheter får och ska | |
inhämta, relationen mellan behöriga myndigheter och kommissionen. Regler | |
om regelefterlevnad och åtgärder som krävs för att uppfylla förordningens | |
krav tas upp. Bestämmelser om tillsyn och övervakning samt vissa | |
processuella bestämmelser för att lösa olikheter mellan medlemsstater. | |
Avdelning IX ställer upp ramarna för inrättande av frivilliga | |
uppförandekoder, liknade regleringen för högrisksystem, för tillhandahållare | |
av |
|
sekretessregler som inriktar sig på att skydda den information som behöriga | |
myndigheter inhämtar med anledning av förordningens bestämmelser. Även | |
straffavgifter regleras i avdelningen. Storleken beror på vilket brott mot | |
förordningen som skett. Användningen av förbjudna |
|
5 ska leda till böter på upp till 30 000 000 EUR eller upp till 6 procent av | |
föregående års globala omsättningen om det gäller ett företag vars | |
omsättning är högre än det stadgade bötesbeloppet. Även EU:s institutioner | |
kan bli ålagda straffavgifter genom beslut av den Europeiska | |
dataskyddsstyrelsen. | |
Avdelning XI innehåller delegationsbestämmelser och regler om delegerade | |
akter samt kommittéförfarande och i Avdelning XII finns | |
övergångsbestämmelser och bestämmelser om ikraftträdande. |
1.3Gällande svenska regler och förslagets effekt på dessa
Eftersom den föreslagna regleringen är i form av en förordning blir den till alla delar bindande och direkt tillämplig i varje medlemsstat och ska inte genomföras i svensk rätt. Förordningen kan komma att behöva kompletteras med nationella bestämmelser till exempel gällande nya uppgifter för vissa myndigheter. Det föreligger i nuläget inte någon bedömning av i vilken omfattning sådana kompletteringar kan behövas.
6
1.4 Budgetära konsekvenser / Konsekvensanalys | 2020/21:FPM109 |
Förslaget kommer att medföra kostnader och nya uppgifter för myndigheter på nationell och
Det krävs ytterligare analys för att bedöma den administrativa bördan för berörda myndigheter, kommuner och regioner i Sverige samt en analys gällande förslagen om nya uppgifter till myndigheter eller inrättande av nya myndigheter. Eventuella kostnader som förslagen kan leda till för den nationella budgeten ska finansieras i linje med de principer om neutralitet för statens budget som riksdagen beslutat om (prop. 1994/95:40, bet. 1994/95FiU5, rskr. 1994/95:67). Utgiftsdrivande åtgärder på
Förslaget till förordning kan komma att öka den administrativa bördan för företag. För företag som arbetar med
Regeringen ser behov av ytterligare analys för att säkerställa att regleringen i sig inte negativt påverkar svenska myndigheters förmåga att upprätthålla nationell säkerhet eller bedriva effektiv brottsbekämpning.
Genom krav på dokumentation och ökade tillsynsmöjligheter särskilt vad gäller tillgången och användning av data för AI, ska förslaget bidra till att skydda grundläggande rättigheter, inklusive likabehandling, vilket kan bidra till positiva effekter för jämställdheten och motverka diskriminering.
2 Ståndpunkter
2.1Preliminär svensk ståndpunkt
Regeringen är positiv till kommissionens arbete att skapa enhetlig reglering för AI på den inre marknaden för att undvika fragmentering och stärka den inre marknadens konkurrenskraft och funktion. AI har använts länge och användningen fortsätter öka såväl inom näringslivet som inom offentlig sektor. Potentialen är betydande och Sverige ska vara ledande i att ta tillvara möjligheterna som användningen av AI kan ge och regeringen ser därför positivt på
Det är viktigt att samhället har förtroende för ny teknik och regeringen stödjer därför inriktningen att ta fram regler som ökar transparensen,
7
tydliggör ansvarsförhållanden, tydliggör vilka användningsområden som ska | 2020/21:FPM109 |
vara förbjudna samt möjliggör tillsyn och efterlevnad. Regeringen noterar att | |
flera av de risker som tas upp i förordningen även kan uppstå med annan | |
teknik eller på grund av mänskligt beslutsfattande. Reglerna måste vara | |
proportionerliga i förhållande till de syften som anges, utgå från principen | |
om teknikneutralitet, inte vara för detaljerade och inte överlappa med annan | |
relevant reglering. Det är viktigt att regleringen inte negativt påverkar | |
svenska myndigheters förmåga att bedriva effektiv brottsbekämpning eller | |
arbetet med nationell säkerhet. | |
Regeringen anser vidare att nationell säkerhet och försvar är frågor som är | |
medlemsstatens egen unika kompetens enligt |
|
som syftar till att skydda nationell säkerhet därmed inte faller under | |
regleringens tillämpningsområde, oavsett om det är staten eller en privat | |
aktör som ska vidta åtgärder med ett sådant syfte. Förordningen ska inte | |
hindra medlemsstaterna från att vidta de åtgärder som de anser nödvändiga | |
för att skydda den nationella säkerheten. Detta behöver tydliggöras i | |
regleringen. | |
Regeringen välkomnar att förslaget tar sin grund i mänskliga rättigheter | |
inklusive rätten till privatliv, yttrandefrihet, |
|
jämställdhet, men även personlig integritet, skydd av fysiska personer i fråga | |
om behandling av personuppgifter och informations- och cybersäkerhet. | |
Respekten för dessa aspekter måste upprätthållas i förslaget. | |
Regeringens utgångsläge är att förslaget ska stödja fri konkurrenskraft och | |
global handel. Regeringen välkomnar internationellt samarbete kring AI och | |
understryker vikten av att EU fortsatt samarbetar med likasinnade länder och | |
globala aktörer, det gäller särskilt i arbetet med en likriktad normering och | |
standardisering. | |
Regeringen ser att en viktig förutsättning för användningen av AI är tillgång | |
till data, säker datadelning samt möjligheten att experimentera och forska | |
även på bristfälliga data och att detta behöver genomsyra förordningen. | |
Ibland går det inte att exakt veta hur en AI fattat beslut och ett utrymme för | |
detta, särskilt för forskning och innovation, måste finnas för att den fulla | |
potentialen med AI ska kunna nyttjas. Regeringen menar även att test- och | |
experimentmiljöer, liksom regulatoriska sandlådor, kan vara viktiga för | |
utvecklingen av tillförlitlig AI. Det är vidare viktigt att de åtgärder för | |
kontroll och regelefterlevnad som föreslås är proportionerliga och | |
ändamålsenliga och inte förhindrar innovation och utveckling. | |
Regeringen anser vidare att det är viktigt att möjliggöra för individens | |
kontroll och insyn över den data som finns om individen. Sådan kontroll | |
behövs för att öka medborgarnas förtroende för ny teknik och hur data | |
används inom ramen för AI liksom för att tillförsäkra att individers | |
rättigheter efterlevs. För att säkerställa möjligheten till tillsyn och för att | |
motverka kränkningar av mänskliga rättigheter, inklusive diskriminering, | |
8 |
eller andra negativa utfall instämmer regeringen i att det viktigt med krav på | 2020/21:FPM109 |
transparens och öppenhet när |
2.2 Medlemsstaternas ståndpunkter
Medlemsstaternas ståndpunkter är inte kända.
2.3 Institutionernas ståndpunkter
Institutionernas ståndpunkter om förslaget till förordning är inte kända. Institutionerna har tidigare förordat lagstiftning inom AI i syfte att säkerställa konkurrenskraft och grundläggande rättigheter.
2.4 Remissinstansernas ståndpunkter
Förslaget till förordning remitteras men synpunkterna har inte hunnit inkomma när faktapromemorian överlämnas till riksdagen.
3 Förslagets förutsättningar
3.1Rättslig grund och beslutsförfarande
Som rättslig grund har kommissionen angett artikel 114 i Fördraget om Europeiska unionens funktionssätt
Kommissionen menar att det är motiverat att lagstifta genom förordning eftersom det behövs ett horisontellt ramverk som är direkt tillämpligt och som tillämpas på ett enhetligt sätt för att säkerställa harmonisering av nya regler som definierar AI och förbud mot vissa skadliga aktiviteter, vilket förbättrar skyddet för de grundläggande rättigheterna och skapar rättslig förutsebarhet för operatörer och konsumenter. Om reglerna ges direkt effekt kommer det att minska fragmenteringen och underlätta utvecklingen av en gemensam marknad för säkra och pålitliga
3.2Subsidiaritets- och proportionalitetsprincipen
Kommissionen anger att förslagets syften bäst kan uppnås på unionsnivå och resonerar enligt följande. AI är ofta beroende av stora och varierade dataset som ibland är integrerade i produkter eller tjänster som cirkulerar fritt på den
9
inre marknaden, vilket innebär att förordningens syften inte kan uppnås på | 2020/21:FPM109 |
egen hand av de enskilda medlemsstaterna. Ett antal potentiellt divergerande | |
lagstiftningar i medlemsstaterna gällande AI håller på att tas fram, vilket | |
skulle riskera att begränsa den fria rörligheten av produkter och tjänster med | |
koppling till |
|
ineffektivt när det gäller att säkerställa skyddet av de grundläggande | |
rättigheterna. Nationella ansatser att lösa problemen skulle motverka den | |
rättsliga förutsebarheten, skapa rättsliga hinder och försena användningen av | |
AI. En europeisk reglering för pålitlig AI kan garantera lika villkor och | |
skydda samtliga unionsmedborgare, samtidigt som den stärker europeisk | |
konkurrenskraft. Vidare kan enbart en insats på unionsnivå skydda unionens | |
digitala suveränitet och möjliggöra inflytande på globala regler och | |
standarder. | |
Kommissionen menar vidare att förslaget är proportionerligt och resonerar då | |
enligt följande. Förslaget till förordning bygger på gällande lagstiftning, är | |
riskbaserat och inför regleringsbördor endast när ett |
|
hög risk för grundläggande rättigheter och säkerhet. De |
|
utanför kategorin högrisk underkastas mycket få krav. Harmoniserande | |
standarder och stöd för efterlevnad och användning av |
|
kostnaderna för användare och tillhandahållare av |
|
för operatörer bedöms proportionerliga utifrån syftet med förslaget och | |
eftersom ekonomiska vinster och vinster i form av förbättrat anseende | |
förväntas uppstå med anledning av förslaget. | |
Regeringen instämmer i kommissionens övergripande bedömningar rörande | |
subsidiaritet och proportionalitet. Regeringen anser liksom kommissionen att | |
det finns ett behov av harmoniserade regler och att reglering i form av | |
förordning är befogad med hänsyn främst till att användningen av AI i de | |
flesta fall är av gränsöverskridande karaktär och för att främja den fria | |
rörligheten på den inre marknaden. Enhetliga regler ger tydlighet och | |
förutsebarhet vilket är positivt för såväl utvecklare som användare. Det är | |
också positivt att de skydd som förordningen avser att ge för människor är | |
likadant inom unionen. De vinster som förväntas i termer av förbättrat | |
anseenden är spekulativa, och därför svårbedömda. Det är emellertid av stor | |
vikt att förordningen inte blir alltför detaljerad eller ges en mer långtgående | |
verkan, eller medför större begränsningar eller kostnader för företag än direkt | |
än direkt nödvändigt. Regeringen avser därför att i förhandlingarna verka för | |
att förordningen inte går utöver vad som är nödvändigt för att uppfylla de | |
syften som angetts. | |
Regeringen noterar att förordningsförslaget på flera ställen ger | |
kommissionen befogenhet att anta delegerade akter. Syftet med de | |
delegerade akterna är att förenkla lagstiftningsförfarandet när regelverket | |
behöver uppdateras till följd av den tekniska utvecklingen. Regeringen | |
instämmer i att det är viktigt att regleringen följer teknikutvecklingen. | |
Parlamentet och rådet kan invända mot en delegerad akt och återkalla | |
kommissionens befogenhet att besluta om delegerade akter. Även med | |
10 |
beaktande av dessa inbyggda ventiler behövs ytterligare analys av hur | 2020/21:FPM109 |
förslaget i denna del potentiellt kan påverka omfattningen av regleringen på | |
sikt. Regeringen noterar också att kommissionens befogenhet att besluta om | |
delegerade akter endast omfattar möjligheten att lägga till |
|
användningar till annex III. Med hänsyn till att förordningen gäller ett | |
område som präglas av mycket snabb utveckling är regeringen av | |
uppfattning att även andra uppdateringar, så som strykningar i listan, bör | |
omfattas av befogenheterna. |
4 Övrigt
4.1Fortsatt behandling av ärendet
Förslaget kommer att förhandlas inom rådsarbetsgruppen för telekommunikation och informationssamhället. Förslaget kommer att remitteras av regeringen.
4.2Fackuttryck/termer
Artificiell intelligens (AI): Artificiell intelligens har ingen entydig definition eller allmänt vedertagen avgränsning. Kommissionen definierar i förslaget till förordning
Regulatoriska sandlådor: En regulatorisk sandlåda tillåter vissa, på förhand angivna utgöra en kontrollerad miljö där marknadsaktörer under begränsad tid kan testa och visa upp innovativa tekniker i samverkan med behöriga myndigheter, med fokus på rättsliga bedömningar. Syftena är bl.a. att öka den rättsliga förutsebarheten, förkorta tiden till att aktörens produkt eller tjänst når marknaden och underlätta särskilt för startup- och småföretag.
Biometriska uppgifter: personuppgifter som erhållits genom en särskild teknisk behandling som rör en fysisk persons fysiska, fysiologiska eller beteendemässiga kännetecken och som möjliggör eller bekräftar unik identifiering av denna fysiska person, såsom ansiktsbilder eller fingeravtrycksuppgifter.
11