Svensk pilot för AI-regulatorisk sandlåda

Myndigheters användning av AI, kommer att påverkas av EU:s AI-förordning som snart träder ikraft. Den omfattar bland annat bestämmelser om regulatoriska sandlådor för AI, som ger leverantörer möjlighet att utveckla, träna och testa AI-system i en kontrollerad miljö innan de tas i bruk.

Som ett initiativ inom eSam har Bolagsverket, Skatteverket och Arbetsförmedlingen tillsammans med Integritetsskyddsmyndigheten, startat arbetet med en pilot av en AI-regulatorisk sandlåda. Förhoppningen är att piloten ska öka kunskapen om hur AI-regulatoriska sandlådor bör inrättas och fungera i Sverige och vilka förutsättningar som krävs för att aktörer ska kunna nyttja dem. Piloten förväntas också leda till fördjupad kunskap om AI-förordningen.

David Magård, strateg på Bolagsverket och en av initiativtagarna till piloten berättar:

- Att bedriva ett pilotprojekt om en viktig EU-förordning i riktig samverkan är roligt, utmanande och viktigt. I offentlig förvaltning måste vi ta stöd av varandra och att jobba i gemensamma projekt så här, är ett av de bästa sätten. Det är ofta när man kommer ned på detaljnivån som man kommer till nödvändig konkretisering. Jag tycker att vi lyckas påvisa flera av de övergripande otydligheterna med AI-förordningen, men också ett sätt att hantera dem. Och kanske också att det i vissa delar är en förordning som har fått ett rykte om sig att vara mer ingripande än den nog kommer att vara.

Under våren genomfördes en första iteration av piloten och lärdomarna beskrivs i en rapport som nu har publicerats. Några av dem är att:

• många it-system sannolikt kommer att utgöra ett AI-system enligt AI-förordningen.
• det är en komplicerad gränsdragning för AI-systemets omfattning, dvs. vad som ska ingå i systemet och vad som inte är en del av systemet. Det avsedda ändamålet bör stå i centrum.
• vilken risknivå systemet tillhör och särskilt om systemet är ett högrisksystem, bör vara en central fråga utifrån de konsekvenser som följer med kraven på högrisksystem.
• det kan vara svårt att avgöra på förhand om ett projekt kan platsa i en sandlåda. Sannolikt kommer det vara en ganska låg tröskel för deltagande.
• det tvärfunktionella arbetssättet är avgörande för diskussionerna; en aktiv mindre grupp ger bättre samverkan. Den kontinuerliga dokumentationen är viktig för att kunna gå tillbaka till tidigare resonemang.

Carin Sundhage, vikarierande stabschef på Integritetsskyddsmyndigheten:

- Det här arbetet är så viktigt och vi på IMY är glada att kunna bidra med vår del. Det är bara genom att testa, lära oss och göra om som vi kan skapa förutsättningar för en effektiv innovationsfrämjande regulatorisk sandlåda. Vi myndigheter har en viktig roll att vara proaktiva och ge vägledning, på så sätt ökar vi chanserna till ett hållbart digitaliserat Sverige med stor konkurrenskraft.

Piloten kommer att fortsätta med nya iterationer under hösten.

Delrapporten AI-regulatorisk sandlåda - första iterationen Pdf, 388.3 kB.