en allt snabbare utveckling

AI

Utveckling och användning av AI har exploderat och lösningarna visar på stora möjligheter. Regeringen menar att Sveriges välfärd och konkurrenskraft ska stärkas genom att myndigheter, kommuner och regioner blir bättre på att använda AI.

För att vi ska kunna använda tekniken fullt ut och på ett effektivt sätt, inte minst utifrån ett rättsligt och säkerhetsmässigt perspektiv, deltar medlemmarna i olika former av labbverksamhet samt gör gemensamma analyser av flera olika områden.

AI-regulatorisk sandlåda

Myndigheters användning av AI kommer att påverkas av EU:s AI-förordning. Den omfattar bland annat bestämmelser om regulatoriska sandlådor för AI, som ger leverantörer möjlighet att utveckla, träna och testa AI-system i en kontrollerad miljö innan de tas i bruk. Som ett initiativ inom eSam har Bolagsverket, Skatteverket, Riksarkivet och Arbetsförmedlingen tillsammans med Integritetsskyddsmyndigheten, arbetat med en pilot av en AI-regulatorisk sandlåda. Förhoppningen är att piloten ska öka kunskapen om hur AI-regulatoriska sandlådor bör inrättas och fungera i Sverige och vilka förutsättningar som krävs för att aktörer ska kunna nyttja dem. Piloten förväntas också leda till fördjupad kunskap om AI-förordningen.

Den andra iterationen genomfördes under vintern 2025; arbetsgruppen analyserade särskilt bestämmelserna om AI-modeller för allmänna ändamål, inklusive bestämmelser om öppen källkod, systemrisk och forskning. Deltagarna har även studerat vilka roller involverade aktörer har enligt AI-förordningen och vilket ansvar som respektive roll har.

Läs mer om insikter från iterationerna längre ner på sidan.

Delrapporten AI-regulatorisk sandlåda - första iterationen Pdf, 388.3 kB.

Delrapport - AI-regulatorisk sandlåda, andra iterationen. Pdf, 516.6 kB, öppnas i nytt fönster.

Uppkomst av allmän handling

En viktig förutsättning i samband med AI-utveckling, handlar om uppkomst av allmän handling. Att ha god ordning i hanteringen av myndigheternas information (handlingar) är viktigt för att den enskilde ska ha möjlighet att ta del av allmänna handlingar, men också för möjligheten att bygga upp och bevara allmänna handlingar som en del av det nationella kulturarvet. Dessvärre har bestämmelserna i tryckfrihetsförordningen (1949:105), offentlighets- och sekretesslagen (2009:400), arkivlagen (1990:782) med flera, inte riktigt adresserat frågan om allmän handling i den digitala miljön. Vid utveckling av AI uppstår nya informationsmängder, exempelvis källkod och tränings- och valideringsdata, varför eSams medlemmar ser ett behov av att analysera om informationen blir nya allmänna handlingar, eller om de utgör kopior av tidigare allmänna handlingar.

Risker och förutsättningar vid utbyte av modeller för AI-utveckling

Vid utveckling av AI uppstår frågor om utbyte av modeller för AI-utveckling eller att tillämpa så kallad federerad inlärning, där lokala modeller tränas på lokalt data och sen sammanförs med en central modell. Medlemmarna kommer att utforska risker och förutsättningar vid utbyte av modeller, exempelvis risker som uppstår om man delar en AI-modell som är tränad på känsligt material eller om personuppgifter överförs vid utbyte av en modell.

En gemensam plattform för chattbotar

Ett annat fokusområde för eSams AI-arbete handlar om gemensam plattform för chattbotar. I dagsläget har tre medlemmar en chattbot som ett av flera gränssnitt till sina målgrupper. I avsaknad av en standard på området, skulle en gemensam plattform vara kostnadseffektivt för befintlig hantering av chattbotarna, minska tröskeln för myndigheter som vill etablera en chattbot men också underlätta för chattbotar att hänvisa till varandra. Därför kommer eSams medlemmar att utreda förutsättningar för etablering av en sådan gemensam plattform.

Praktisk tillämpning av AI-lösningar

Medlemmarna har också börjat arbeta med praktisk tillämpning av AI-lösningar. Med utgångspunkt från tidigare arbete i eSam - erfarenhetsutbyten, ett lämpligt arbetssätt, en juridisk checklista samt en exempelsamling med tillämpningar - startade en pilotverksamhet för en AI-baserad lösning för tolkning, under våren 2023. Piloten utgår från en tjänst som Domstolsverket tidigare har tagit fram där Domstolsverket, Arbetsförmedlingen, Skatteverket och Migrationsverket har testat en AI-baserad lösning som ersättning för ordinarie tolktjänster, under en period om tre månader. Testet ska analyseras för att se vilka effekter myndigheterna kan uppnå vid en bredare användning av sådana lösningar.

Generativa AI-baserade tjänster

Utöver myndigheters arbete med egen AI-utveckling, har de relativt nya generativa AI-baserade tjänsterna som blivit tillgängliga för allmänheten, väckt stort intresse. Utvecklingen går oerhört fort och allt fler aktörer lanserar avancerade tjänster inom olika områden, t.ex. chattbotar. eSams medlemmar har börjat analysera dels om lösningarna kan användas i myndigheterna, dels vilka förutsättningar som finns utifrån exempelvis säkerhetsmässiga och juridiska perspektiv. Tjänsterna baseras på stora språkmodeller (Large language models – LLMs) som potentiellt skulle kunna användas av myndigheterna för att utveckla egna tillämpningar med betydande effekter. Medlemmarna ska analysera utvecklingen och möjlig påverkan för myndigheterna.

AI för kommunikationsverksamheterna

Även på kommunikationsområdet testar flera medlemmar AI-lösningar för att t.ex. mäta webbplatsers effektivitet och svara på frågor. Medlemmarna kommer att fortsätta undersöka möjligheter och dela med sig av erfarenheter, utvärderingar och pågående tester på området.

En viktig förutsättning i samband med AI-utveckling, handlar om uppkomst av allmän handling. Att ha god ordning i hanteringen av myndigheternas information (handlingar) är viktigt för att den enskilde ska ha möjlighet att ta del av allmänna handlingar, men också för möjligheten att bygga upp och bevara allmänna handlingar som en del av det nationella kulturarvet. Dessvärre har bestämmelserna i tryckfrihetsförordningen (1949:105), offentlighets- och sekretesslagen (2009:400), arkivlagen (1990:782) med flera, inte riktigt adresserat frågan om allmän handling i den digitala miljön. Vid utveckling av AI uppstår nya informationsmängder, exempelvis källkod och tränings- och valideringsdata, varför eSams medlemmar ser ett behov av att analysera om informationen blir nya allmänna handlingar, eller om de utgör kopior av tidigare allmänna handlingar.

Lärdomar från första iterationen

  • Många it-system kommer sannolikt att utgöra ett AI-system enligt AI-förordningen.
  • Det är en komplicerad gränsdragning för AI-systemets omfattning, dvs. vad som ska ingå i systemet och vad som inte är en del av systemet. Det avsedda ändamålet bör stå i centrum.
  • Det bör vara en central fråga utifrån de konsekvenser som följer med kraven på högrisksystem, vilken risknivå systemet tillhör och alldeles särskilt om systemet är ett högrisksystem.
  • Det kan vara svårt att avgöra på förhand om ett projekt kan platsa i en sandlåda. Sannolikt kommer det vara en ganska låg tröskel för deltagande.
  • Det tvärfunktionella arbetssättet är avgörande för diskussionerna; en aktiv mindre grupp ger bättre samverkan. Den kontinuerliga dokumentationen är viktig för att kunna gå tillbaka till tidigare resonemang.

Lärdomar från andra iterationen

  • Utifrån samarbetet mellan involverade aktörer är det inte självklart vilken roll respektive aktör har enligt AI-förordningen. Tanken verkar ändå vara att det ska finnas en utpekad leverantör. Enligt AI-förordningen är det förmodligen inte möjligt för flera aktörer att ha ett gemensamt leverantörsansvar.
  • Det är endast leverantörer och potentiella leverantörer av AI-system, som har möjlighet att söka till en AI-regulatorisk sandlåda. En ansökan kan dock ske i partnerskap med till exempel en tillhandahållare eller en leverantör av en AI-modell för allmänna ändamål.
  • Det kan vara svårt att avgöra gränsdragningen mellan en AI-modell och ett AI-system. I AI-förordningen saknas en definition för vad som avses med en AI-modell.
  • Att integrera en AI-modell för allmänna ändamål eller låta den ingå i ett system, medför inga ytterligare krav på leverantören eller tillhandahållaren. Kraven som gäller baseras istället på AI-systemets risknivå. Däremot har leverantören i efterföljande led, rätt att ställa krav vad gäller information från leverantören av AI-modellen för allmänna ändamål.

Det är svårt att veta på förhand vilka frågeställningar som kan bli aktuella för en AI-regulatorisk sandlåda. Det kan vara utmanande att få fram all information för en bedömning av systemet i en AI-regulatorisk sandlåda, bland annat för att systemet ska utvecklas under pågående sandlåda och att den nödvändiga dokumentationen ännu inte är tillgänglig. Det kan också ifrågasättas hur harmoniserade de AI-regulatoriska sandlådorna kommer att vara och det finns risk för diskrepans utifrån medlemsländernas kapacitet och fokus. En vanlig fråga är, om det kan vara möjligt med samordnade sandlådor? Arbetsgruppen bedömer att det i så fall sannolikt kommer att handla om olika sandlådor som samordnas, snarare än en gemensam sandlåda för flera olika rättsområden.

En aktör som ansöker till en sandlåda behöver bidra med visst eget deltagande och kompetens, särskilt vad gäller beskrivning av det tilltänkta AI-systemet. Aktören behöver även ha stöd från sina beslutsfattare som också behöver vara involverade i arbetet i någon grad.

Viktigt med tvärfunktionella arbetsgrupper

Arbetsgruppen vill verkligen understryka behovet av tvärfunktionell kompetens i en AI-regulatorisk sandlåda, som exempelvis jurister, AI-utvecklare, teknisk kompetens och projektledningskompetens. Det finns uppenbara fördelar med ett kärnteam som arbetar tillsammans över tid. Det ger också ett större lärande att identifiera tolkningssvårigheter utifrån ett praktiskt fall, än att jobba teoretiskt med inläsning av lagstiftningen.