System med hög risk – tredje iterationen i AI-regulatorisk sandlåda

12 jun 2025

Administrativ kapacitet kan vara avgörande för en aktör som vill lansera ett AI-system. Den tredje iterationen i piloten, har analyserat ett tilltänkt system utifrån bestämmelserna för system med hög risk.

Ett AI-system med hög risk innebär ett stort antal tillkommande dokumentationskrav som kommer att kräva stora resurser av en aktör för att uppfylla. Det är en av lärdomarna i den tredje iterationen av AI-regulatorisk sandlåda. Möjligheten för en aktör att uppfylla kraven kommer antagligen att bero på administrativ kapacitet snarare än att kraven i sig är svåra att tolka.

Vad innebär det för en leverantör respektive en användare om det är ett AI-system med hög risk? Hur länge ska en sandlåda pågå och kommer det finnas någon teknisk infrastruktur för dessa sandlådor? Detta är exempel på några frågor som diskuterats i pilotens tredje iterationen. Arbetsgruppen har analyserat ett tilltänkt system utifrån bestämmelserna för system med hög risk. Arbetsgruppen har också haft anledning att fundera över sandlådornas innehåll och omfattning samt förutsättningar för en eventuell teknisk infrastruktur.

Per Nydén, jurist på Integritetsskyddsmyndigheten, beskriver arbetet:

- Att delta i projektet har varit väldigt lärorikt. När man verkligen går in på djupet i den juridiska analysen dyker det ofta upp nya frågor som man inte tidigare reflekterat över. Att få diskutera dessa frågor tillsammans med andra kunniga och engagerade deltagare har varit en stor förmån.

Anders Järkendal, SAFe – Release Train Engineer och Epic Owner på Skatteverket, fyller i:

- Arbetet med att tolka AI-förordningen visade verkligen kraften i samverkan mellan myndigheter. Med olika perspektiv och en gemensam vilja att göra verklig skillnad skapade vi något som inte bara hjälpte oss själva – utan också andra. Genom att utgå från våra kommande AI-tjänster för brottsutredande verksamhet har vi samlat insikter och erfarenheter som nu kan underlätta andras tolkning av AI-förordningen. Och inte minst – samarbetet stärkte också vår egen förståelse och kompetens, både som individer och organisationer. Det vi byggde tillsammans är inte bara ett resultat – det är en grund att stå på, och en inbjudan till andra att fortsätta utvecklingen med samma öppenhet, nyfikenhet och ansvar.

Lärdomar

  • Bedömningen om vad som är ramen för systemet är komplex och utmanande, särskilt när systemet består av olika AI-stödtjänster som i sig kan utgöra AI-system.
  • En aktör kan inneha flera roller enligt AI-förordningen, t.ex. vara både leverantör och tillhandahållare.
  • Ett AI-system med hög risk innebär ett stort antal tillkommande dokumentationskrav, som kommer vara administrativt tunga att uppfylla. En insikt är att möjligheten för en aktör att uppfylla kraven många gånger kommer att bero på administrativ kapacitet snarare än att kraven i sig är svåra att tolka.
  • Det är inte klart hur omfattningen för sandlådan är tänkt att vara. Om sandlådan ska bedöma hela systemet kan det bli ett omfattande projekt som pågår under lång tid, vilket kan göra det mindre attraktivt att delta i sandlådan. Å andra sidan finns en förväntansbild att ett deltagande i en sandlåda ger ett bevis på att systemet uppfyller reglerna. Är det inte tydligt att endast vissa delar kommer ingå i sandlådan kan det leda till ett missnöje hos leverantörerna.
  • AI-förordningens bestämmelser ger möjlighet att tillhandahålla tekniskt stöd i sandlådan, men det finns inte några rättsliga krav på behörig myndighet att tillhandahålla en teknisk infrastruktur eller tekniskt stöd i sandlådan. En dialogbaserad sandlåda kommer att ha ett stort värde, kan den dessutom kombineras med tekniskt stöd, beräkningskraft och även andra stöd kommer värdet att bli mycket större för leverantörer och för Sverige som helhet.
  • Arbetsmetoden i piloten ger stöd för att inte fastna i kniviga frågor, vilket annars lätt sker inom myndigheter i outforskade områden. Arbetssättet har också lett till en generell kompetenshöjning hos deltagarna, vilket är en vinst som sträcker sig utanför sandlådans kärnuppdrag.

Fakta

Piloten drivs inom ramen för eSam för att öka kunskapen om AI-förordningen och AI-regulatoriska sandlådor - ett begrepp för att t.ex. ge leverantörer möjlighet att utveckla, träna och testa AI-system i en kontrollerad miljö innan de tas i bruk. Målet med sandlådor är att främja AI-innovation och öka rättssäkerheten.

Piloten drivs som ett initiativ mellan Bolagsverket, Skatteverket, Riksarkivet och Arbetsförmedlingen, i samarbete med Integritetsskyddsmyndigheten. Förhoppningen är att piloten ska öka kunskapen om hur AI-regulatoriska sandlådor bör inrättas och fungera i Sverige och vilka förutsättningar som krävs för att aktörer ska kunna nyttja dem.