Delrapport AI-regulatorisk sandlåda - tredje iterationen

Sammanfattning

Inom eSams ram drivs en pilot i syfte att bidra med kunskap om AI-regulatoriska sandlådor. I den tredje iterationen av piloten för AI-regulatorisk sandlåda har arbetsgruppen tittat på ett system som är tänkt att stödja skattebrottsutredare i arbetet med brottsutredningar.

AI-system

Arbetsgruppen finner att aktuellt system utgör ett AI-system enligt AI-förordningen. Bedömningen är att systemet omfattas av bestämmelserna om hög risk och att undantagsbestämmelserna för högrisksystem i artikel 6.3 inte är tillämpliga.

Arbetsgruppen gör vidare bedömningen att det inte kan uteslutas att aktuellt AI-system omfattas av transparenskraven i artikel 50.2. I rapporten görs en genomgång av vilka krav som blir tillämpliga fördelat på rollerna leverantör och tillhandahållare. Någon fullständig bedömning om vad som krävs för att uppfylla kraven har inte varit möjlig att göra i denna iteration.

Lärdomar

Arbetsgruppens lärdomar från iterationen och även tidigare iterationer är att bedömningen om vad som är ramen för systemet är komplex och är en fråga som arbetsgruppen återkommit till flera gånger under iterationen. Denna bedömning är särskilt utmanande när tilltänkt system består av olika AI-stödtjänster som i sig kan utgöra AI-system.

En ytterligare lärdom är att en aktör kan inneha flera roller enligt AI-förordningen, dvs. en aktör skulle exempelvis kunna vara både leverantör och tillhandahållare.

Ett AI-system med hög risk innebär ett stort antal tillkommande krav där merparten gäller dokumentation och uppfyllelsen av dessa krav kommer att vara administrativt tungt. En insikt är att möjligheten för en aktör att uppfylla kraven många gånger kommer att bero på administrativ kapacitet snarare än att kraven i sig är svåra att tolka.

Arbetsgruppen har reflekterat över omfattningen av sandlådans innehåll. Det rör bl.a. frågeställningen om hur länge en AI-regulatorisk sandlåda förutsätts pågå och vad leverantören behöver ha på plats innan sandlådan kan avslutas. Det framstår inte som helt klart hur omfattningen är tänkt att vara. Detsamma gäller frågan om AI-sandlådan avser att bedöma samtliga krav för det tilltänkta AI-systemet eller om AI-sandlådan i sandlådeplanen skulle kunna begränsas till att bedöma vissa specifika frågor.

En återkommande diskussion i piloten för den AI-regulatoriska sandlådan är behoven och eventuella krav på ett tekniskt stöd i sandlådan. Arbetsgruppen bedömer att AI- förordningens bestämmelser ger möjlighet att tillhandahålla tekniskt stöd i sandlådan, men det finns inte några rättsliga krav på behörig myndighet att tillhandahålla en teknisk infrastruktur/tekniskt stöd i sandlådan. En dialogbaserad sandlåda kommer att ha ett stort värde och kan den dessutom kombineras med tekniskt stöd, beräkningskraft och även andra stöd, såsom hur AI-system kan integreras i existerande tekniska miljöer, kommer värdet att bli mycket större för leverantörer och för Sverige som helhet.