AI-regulatorisk sandlåda - den fjärde och sista iterationen

Kan en rangordning av betalningsförmåga anses utgöra social poängsättning? Vad innefattas i tillgång till och åtnjutande av väsentliga privata tjänster och väsentliga offentliga tjänster och förmåner? Och vad gäller för enskilda näringsidkare, ska de omfattas av begreppet fysiska personer vid tillämpning av AI-förordningen?

Frågorna har varit många när arbetsgruppen analyserat ett tilltänkt system för riskvärdering av betalningsförmåga och utforskat vad dokumentationskraven betyder i praktiken. Hur ska dokumentationen finnas tillgänglig och på vilken nivå ska beskrivningarna vara? Några av deltagarna i arbetsgruppen reflekterar över arbetet:

Andreas Voxberg, Chief Data Scientist på Skatteverket

- För mig har arbetet i den regulatoriska sandlådan framför allt visat vilket stort mervärde som uppstår när juridik och teknik arbetar tätt tillsammans. Det har varit både lärorikt och inspirerande att genom öppna och konstruktiva samtal söka och hitta gemensamma lösningar. Även om det system vi analyserat inte bedöms som hög risk har processen gett oss möjlighet att pröva hur vår befintliga dokumentation står sig mot kommande krav. Efter arbetet känner jag mig tryggare – vi har några delar att stärka, men står redan på en stabil grund.

Julia Pistol är jurist vid PTS - Post- och telestyrelsen

- Sandlådan konkretiserade vad en AI-regulatorisk sandlåda är och hur den kan se ut. Deltagandet i sandlådan var ett pedagogiskt sätt att lära sig tillämpa AI-förordningen.

Erik Gustafsson är jurist och Julias kollega på PTS, och avslutar med att reflektera över vad arbetet kan ge framåt:

- Jag har deltagit främst för att se och lära om arbetet i en AI-regulatorisk sandlåda. Det har varit ett väloljat teamarbete och inneburit en ”crash course” i ämnet. Jag ser att det är flera delar som kan vara värdefulla att lära av i ett kommande arbete för behörig myndighet att inrätta en AI-regulatorisk sandlåda.

Lärdomar

• Bedömningen av vad som är ramen för systemet, är komplex. Ytterst behöver leverantören definiera vad som faller inom AI-systemet och därefter paketera och dokumentera utifrån detta.
• Sannolikt kommer dokumentationen att finnas lagrad på flera olika ställen. Detta ställer krav på möjligheten att kunna visa spårbarhet och att dokumentationen kan tillgängliggöras på begäran av t.ex. en tillsynsmyndighet.
• För att en sandlåda ska kunna vara effektiv, hålla hög kvalitet och bidra med ett mervärde för AI-innovationssystemet krävs omfattande satsningar, både vid uppstart och drift.
• Arbetsmetoden som använts i piloten fungerar väl även för en myndighets utforskande verksamhet i stort.

Fakta

Piloten drivs inom eSam för att öka kunskapen om AI-förordningen och AI-regulatoriska sandlådor - ett begrepp för att t.ex. ge leverantörer möjlighet att utveckla, träna och testa AI-system i en kontrollerad miljö innan de tas i bruk. Målet med sandlådor är att främja AI-innovation och öka rättssäkerheten.

Piloten är ett initiativ mellan Bolagsverket, Skatteverket, Riksarkivet och Försäkringskassan, i samarbete med Integritetsskyddsmyndigheten och Post- och telestyrelsen. Arbetsförmedlingen och Ekonomistyrningsverket har deltagit i tidigare iterationer. Förhoppningen är att piloten ska öka kunskapen om hur AI-regulatoriska sandlådor bör inrättas och fungera i Sverige och vilka förutsättningar som krävs för att aktörer ska kunna nyttja dem.