I pilotens andra iteration analyserades bestämmelserna om AI-modeller för allmänna ändamål, inklusive bestämmelser om öppen källkod, systemrisk och forskning. Iterationen har också omfattat aktörernas olika roller enligt AI-förordningen samt rollernas respektive ansvar.

Piloten drivs inom ramen för eSam med syftet att bidra med kunskap om AI-regulatoriska sandlådor. Sandlådor är ett begrepp för att t.ex. ge leverantörer möjlighet att utveckla, träna och testa AI-system i en kontrollerad miljö innan de tas i bruk. Målet med sandlådor är att främja AI-innovation och öka rättssäkerheten.

Andra iterationen

Arbetsgruppen har särskilt analyserat bestämmelserna om AI-modeller för allmänna ändamål, inklusive bestämmelser om öppen källkod, systemrisk och forskning. Deltagarna har även studerat vilka roller involverade aktörer har enligt AI-förordningen och vilket ansvar som respektive roll har.

Gintare Grigonyte, AI-strateg på Skatteverket, reflekterar över arbetet:

- Det var en bra erfarenhet att bli med på en juridisk åktur styrd av mina juristkollegor och gå igenom relevanta delar av AI-förordningen, 144 sidor lagtext. I sådana samarbeten hoppas man vanligtvis på något tillämpningsvärde. Den andra iterationen av den regulatoriska sandlådan har lyckats destillera en kärna av metoden. - Det skulle jag vilja ta in och börja testa i Skatteverkets interna sandlåda, säger Gintare.

Cecilia Sandberg, jurist från Integritetsskyddsmyndigheten fyller i:

- I den AI-regulatoriska sandlådan har vi verkligen fått dyka ned i AI-förordningen på djupet vilket varit både utmanande och oerhört roligt. Det tvärvetenskapliga arbetssättet har möjliggjort att vi jurister kunnat närma oss tekniken och vice versa, vilket varit en förutsättning för att kunna förstå och tolka regelverket. Jag är redan förväntansfull på vad nästa projekt har att ge!

Lärdomar

• Utifrån samarbetet mellan involverade aktörer är det inte självklart vilken roll respektive aktör har enligt AI-förordningen. Tanken verkar ändå vara att det ska finnas en utpekad leverantör. Enligt AI-förordningen är det förmodligen inte möjligt för flera aktörer att ha ett gemensamt leverantörsansvar.
• Det är endast leverantörer och potentiella leverantörer av AI-system, som har möjlighet att söka till en AI-regulatorisk sandlåda. En ansökan kan dock ske i partnerskap med till exempel en tillhandahållare eller en leverantör av en AI-modell för allmänna ändamål.
• Det kan vara svårt att avgöra gränsdragningen mellan en AI-modell och ett AI-system. I AI-förordningen saknas en definition för vad som avses med en AI-modell.
• Att integrera en AI-modell för allmänna ändamål eller låta den ingå i ett system, medför inga ytterligare krav på leverantören eller tillhandahållaren. Kraven som gäller baseras istället på AI-systemets risknivå. Däremot har leverantören i efterföljande led, rätt att ställa krav vad gäller information från leverantören av AI-modellen för allmänna ändamål.

Det är svårt att veta på förhand vilka frågeställningar som kan bli aktuella för en AI-regulatorisk sandlåda. Det kan vara utmanande att få fram all information för en bedömning av systemet i en AI-regulatorisk sandlåda, bland annat för att systemet ska utvecklas under pågående sandlåda och att den nödvändiga dokumentationen ännu inte är tillgänglig.

Det kan också ifrågasättas hur harmoniserade de AI-regulatoriska sandlådorna kommer att vara och det finns risk för diskrepans utifrån medlemsländernas kapacitet och fokus. En vanlig fråga är, om det kan vara möjligt med samordnade sandlådor? Arbetsgruppen bedömer att det i så fall sannolikt kommer att handla om olika sandlådor som samordnas, snarare än en gemensam sandlåda för flera olika rättsområden.

En aktör som ansöker till en sandlåda behöver bidra med visst eget deltagande och kompetens, särskilt vad gäller beskrivning av det tilltänkta AI-systemet. Aktören behöver även ha stöd från sina beslutsfattare som också behöver vara involverade i arbetet i någon grad.

Viktigt med tvärfunktionella arbetsgrupper

Arbetsgruppen vill verkligen understryka behovet av tvärfunktionell kompetens i en AI-regulatorisk sandlåda, som exempelvis jurister, AI-utvecklare, teknisk kompetens och projektledningskompetens. Det finns uppenbara fördelar med ett kärnteam som arbetar tillsammans över tid. Det ger också ett större lärande att identifiera tolkningssvårigheter utifrån ett praktiskt fall, än att jobba teoretiskt med inläsning av lagstiftningen.

Bakgrund

Piloten drivs som ett initiativ inom ramen för eSam, med Bolagsverket, Skatteverket och Arbetsförmedlingen, tillsammans med Integritetsskyddsmyndigheten. Förhoppningen är att piloten ska öka kunskapen om hur AI-regulatoriska sandlådor bör inrättas och fungera i Sverige och vilka förutsättningar som krävs för att aktörer ska kunna nyttja dem. Piloten förväntas också leda till fördjupad kunskap om AI-förordningen.

Läs Delrapport - AI-regulatorisk sandlåda, andra iterationen. Pdf, 516.6 kB, öppnas i nytt fönster.

Tidigare nyheter i ämnet

• Läs mer om den första iterationen
• Vi har även berättat om den andra iterationen i november 2024.