Förslag till riksdagsbeslut
-
Riksdagen ställer sig bakom det som anförs i motionen om att utreda hur laglighetsprövning kan användas för automatiserade beslutssystem i offentlig sektor och tillkännager detta för regeringen.
-
Riksdagen ställer sig bakom det som anförs i motionen om att ålägga offentliga aktörer att, vid rättslig vinst för enskild, genomlysa den bakomliggande algoritmen och erbjuda rättelse av övriga drabbade beslut och tillkännager detta för regeringen.
-
Riksdagen ställer sig bakom det som anförs i motionen om att justera bevisbördereglerna så att det offentliga ansvarar för att visa korrekthet vid automatiserat beslutsfattande, och detta tillkännager riksdagen för regeringen.
-
Riksdagen ställer sig bakom det som anförs i motionen om att avsätta resurser för att höja domstolarnas digitala kompetens och skapa testmiljöer för utvärdering av algoritmiska beslutsmodeller och tillkännager detta för regeringen.
Centerpartiet står för en digitalisering som stärker – inte försvagar – rättssäkerheten, människors fri- och rättigheter och förtroendet för våra institutioner. Därför krävs en politik för digital rättvisa och en rättsstat som även i algoritmernas tidsålder står på individens sida.
Allt fler beslut i offentlig sektor fattas idag med hjälp av automatiserade beslutssystem. Dessa används i syfte att öka effektivitet och likvärdighet. Men i takt med den snabba digitala transformationen har rättssystemet inte utvecklats i samma takt, vilket riskerar att underminera både rättssäkerheten och tilltron till det offentliga.
Göteborgsfallet 2020 – där ett felkodat skolplaceringssystem ledde till att över 1 400 barn fick felaktiga skolplaceringar – illustrerar tydligt farorna med dagens ordning. Problemen uppstod inte på grund av tekniken i sig, utan genom bristfällig kodning, otillräcklig uppföljning och en övertro på teknikens objektivitet. Det saknas i dag institutionella mekanismer för att rätta till systematiska fel som uppkommer i automatiserade beslutssystem.
Dagens rättssystem är i praktiken blint för algoritmisk makt och digitala bevis. Den som drabbas ställs inför en orimlig bevisbörda – i ett läge där kod och beslutslogik ofta är oåtkomliga för individen men tillgängliga för det offentliga.
Om vi inte säkerställer att automatiserat beslutsfattande kan granskas, korrigeras och rättsbedömas på ett systematiskt sätt riskerar vi både stora samhällsekonomiska kostnader och ett växande demokratiskt underskott. När felaktiga automatiserade beslut inte kan rättas leder det inte bara till konkret rättsförlust för den enskilde – utan också till skadat förtroende för rättsstaten.
Därför föreslår jag följande fyra reformer:
-
Utreda laglighetsprövning av algoritmer: Det måste utredas hur laglighetsprövning kan tillämpas inte bara på enskilda beslut utan även på de beslutssystem som ligger till grund för besluten. Systematiska fel kräver systematisk rättelse.
-
Skyldighet till genomlysning vid fel: Vid domstolsbeslut till enskilds fördel ska det offentliga åläggas att undersöka om fler fel uppstått i systemet, och rätta även dessa – även om de inte överklagats.
-
Rimlig bevisbörda: Bevisbördan för digital systematik och korrekthet bör vila på den aktör som har insyn i systemet – inte på den enskilde.
-
Stärkta domstolar: Domstolsväsendet måste ges resurser för att bygga digital kompetens samt möjlighet att i testmiljö analysera och förstå utfall av automatiserade beslutsmodeller. Detta är avgörande för att kunna bedöma digital bevisning och för att framtidssäkra rättsstaten.