Delrapport AI-regulatorisk sandlåda - andra iterationen

Sammanfattning

Inom eSam har en arbetsgrupp genomfört en pilot i fyra iterationer för att bidra med kunskap om AI-regulatoriska sandlådor. I den andra iterationen av piloten för AI-regulatorisk sandlåda har arbetsgruppen tittat på ett system för remissammanställningar.

AI-system

Arbetsgruppen har kommit fram till att det aktuella systemet i piloten, utgör ett AI-system enligt AI-förordningen. Det träffas inte av bestämmelserna om oacceptabel risk, hög risk eller transparenskraven, utan är ett AI-system med minimal/ingen risk. Därmed finns det inga krav på aktörerna enligt AI-förordningen. Det kan finnas informationskrav i annan
lagstiftning, men rapporten behandlar endast AI-förordningen. För en myndighet kan
det ändå finnas anledning att överväga att informera om AI-systemet, men då på frivillig
basis eller utifrån frivilliga uppförandekoder.

Roller enligt AI-förordningen

Arbetsgruppen har övervägt vilken roll involverade aktörer bör ha enligt AI-förordningen. Reglerna om rollfördelning är skrivna utifrån en kommersiell marknad där
ansvarsfördelning ofta regleras genom avtal snarare än genom samverkan mellan
myndigheter. En intressant frågeställning är hur begreppet kommersiell verksamhet ska
tolkas och vilken betydelse begreppet har för AI-förordningens tillämpning för offentliga
myndigheter. Utifrån samarbetet mellan de involverade aktörerna, är det inte
självklart vilken roll respektive aktör har enligt AI-förordningen, tanken verkar ändå vara
att det ska finnas en utpekad leverantör. Det är förmodligen inte möjligt för flera
aktörer att ha ett gemensamt leverantörsansvar enligt AI-förordningen.

AI-modeller för allmänna ändamål

I AI-systemet finns två språkmodeller och arbetsgruppen har därför analyserat
bestämmelserna om AI-modeller för allmänna ändamål samt bestämmelserna om öppen
källkod, systemrisk och forskning. Arbetsgruppen konstaterar att åtminstone en AI-modell
för allmänna ändamål, ingår i AI-systemet.

När en AI-modell för allmänna ändamål integreras i eller ingår i ett AI-system bör systemet anses vara ett AI-system för allmänna ändamål när systemet, på grund av integreringen, har förmåga att tjäna en rad olika ändamål. Troligen har aktuellt system inte sådan förmåga. Ett AI-system för allmänna ändamål medför dock inte några ytterligare krav på leverantören eller tillhandahållaren. Kraven som gäller baseras istället på AI-systemets risknivå, oavsett om en AI-modell för allmänna ändamål är integrerad i systemet eller inte. Däremot har
leverantör i efterföljande led rätt att ställa krav vad gäller information från leverantören
av AI-modellen för allmänna ändamål.

Lärdomar

Arbetsgruppens lärdomar från iterationen är bland annat att det kan vara svårt att avgöra
gränsdragningen mellan en AI-modell och ett AI-system. Det finns inte någon definition
i AI-förordningen om vad som avses med en AI-modell. Ytterligare lärdomar är att det kan vara svårt att på förhand veta vilka frågeställningar som kan bli aktuella att titta på i en AI-regulatorisk sandlåda. Det kan finnas utmaningar med att få fram all information för en bedömning av systemet i en AI-regulatorisk sandlåda, bland annat för att systemet ska utvecklas under pågående sandlåda och att dokumentationen som kan behövas för en beskrivning ännu inte finns tillgänglig.

Det är inte alltid enkelt att bedöma vilken roll inblandade aktörer har. Det är endast
leverantörer och potentiella leverantörer av AI-system som har möjlighet att söka till en
AI-regulatorisk sandlåda. En ansökan kan dock ske i partnerskap med till exempel en
tillhandahållare eller en leverantör av en AI-modell för allmänna ändamål.
En reflektion från arbetsgruppen är att det kan ifrågasättas hur harmoniserade de AI-regulatoriska sandlådorna kommer att vara och det kan finnas risk för diskrepans utifrån
medlemsländernas kapacitet och fokus.

En vanlig fråga som arbetsgruppen stött på är om det kan vara möjligt med samordnade sandlådor. Sannolikt kommer det i så fall handla om olika sandlådor som samordnas, snarare än en gemensam sandlåda för flera olika rättsområden. Arbetsgruppen vill understryka behovet av tvärfunktionell kompetens, såsom jurister,
AI-utvecklare, teknisk kompetens och projektledningskompetens, i en AI-regulatorisk
sandlåda. Det finns uppenbara fördelar med ett kärnteam som arbetar tillsammans över
tid. Ett arbetssätt där tolkningssvårigheter identifierats utifrån ett praktiskt fall ger ett
större lärande än en teoretisk inläsning av lagstiftningen.

En lärdom är att en aktör som ansöker till en sandlåda, behöver bidra med visst eget deltagande och kompetens, särskilt vad gäller beskrivning av tilltänkt AI-system. Det behöver finnas ett stöd hos aktörens beslutsfattare och att de på något sätt är involverade.

Det är en framgångsfaktor att dokumentera löpande under hela arbetet, för att tidigt kunna uppmärksamma skillnader i uppfattningen eller tolkningen av det som arbetsgruppen har kommit fram till.