AI-regulatorisk sandlåda, fjärde iterationen

Sammanfattning

Inom eSam pågår sedan ca 2 år, en pilot med syfte att bidra med kunskap om AI-regulatoriska sandlådor. I den fjärde iterationen har arbetsgruppen tittat på ett system för riskvärdering av betalningsförmåga.

AI-system

Arbetsgruppen finner att aktuellt system utgör ett AI-system enligt AI-förordningen. Bedömningen är att systemet troligen inte omfattas av bestämmelserna om hög risk. Arbetsgruppen gör vidare bedömningen att transparenskraven i artikel 50 inte bör bli tillämpliga, men bedömer samtidigt att kraven i artikel 50.1 ändå är uppfyllda.

Lärdomar från fjärde och tidigare iterationer

Arbetsgruppen gör bedömningen att vad som är ramen för systemet, är komplext. En insikt från fjärde iterationen, är att det kan vara lättare att avgöra ramen för systemet när förhållandet avser en kommersiell leverantör och en fristående tillhandahållare, än som i aktuellt fall där aktören både är leverantör och tillhandahållare. Ytterst behöver leverantören definiera vad som faller inom AI-systemet och därefter paketera och dokumentera utifrån detta.

Ett AI-system med hög risk innebär ett stort antal tillkommande krav där merparten gäller dokumentation och uppfyllelsen av dessa krav kommer att vara administrativt tungt. En lärdom i fjärde iterationen är att det snarare kommer att handla om att dokumentationen lagras på flera olika ställen, än att allt finns i ett dokument, men att detta också ställer krav på möjligheten att visa spårbarhet och att dokumentationen kan tillgängliggöras på begäran av t.ex. en tillsynsmyndighet.

Ytterligare en lärdom är att det krävs omfattande satsningar både vid uppstart och drift, för att en sandlåda ska kunna vara effektiv, hålla hög kvalitet och bidra med ett mervärde för AI-innovations­systemet,

Till sist konstaterar arbetsgruppen att arbetsmetoden inte bara fungerar väl för AI-regulatoriska sandlådor, utan även kan tillämpas vid utforskande arbete generellt inom en myndighet liksom för utforskande verksamhet i stort.