EU:s AI-f\u00f6rordning var en l\u00e5ng och grundlig process. Nu \u00e4r texten klar och vi kan reflektera \u00f6ver hur den blev. Det f\u00f6rsta jag kan s\u00e4ga \u00e4r att det visade sig vara en l\u00e5ng tid. F\u00f6rordningen inneh\u00e5ller 113 artiklar och en artikel \u00e4r normalt l\u00e4ngre \u00e4n en A4-remsa. F\u00f6r att ange till\u00e4mpningsomr\u00e5det enbart i artikel 2 kr\u00e4vs det 12 punkter i f\u00f6rordningen, varav flera inneh\u00e5ller underpunkter. Ingressen inneh\u00e5ller 180 punkter. Det finns tretton bilagor.<\/p>\n\n
Den f\u00f6rsta fasen av genomf\u00f6randet kommer att ske sex m\u00e5nader efter det att f\u00f6rordningen tr\u00e4der i kraft – i h\u00f6st – s\u00e5 Europa, genom sina teknikjurister, b\u00f6r b\u00f6rja l\u00e4sa s\u00e5 snart som m\u00f6jligt. I slutskedet av f\u00f6rordningen \u00e4ndrades inneh\u00e5llet inte s\u00e4rskilt mycket, men tillr\u00e4ckligt f\u00f6r att vissa av artiklarna skulle bli obekanta \u00e4ven f\u00f6r experter.<\/p>\n\n
F\u00f6rordningen syftar till att uppn\u00e5 en \u00f6vergripande harmonisering. Genom att v\u00e4lja artikel 114 i EUF-f\u00f6rdraget som r\u00e4ttslig grund \u00f6verf\u00f6rs genom denna f\u00f6rordning beh\u00f6righeten att reglera all AI till unionen. Medlemsstaterna kommer inte l\u00e4ngre att kunna lagstifta om det som f\u00f6reskrivs i f\u00f6rordningen, s\u00e5vida inte f\u00f6rordningen ger uttryckligt nationellt handlingsutrymme. F\u00f6rordningen l\u00e4mnar lite av det utspridda \u00f6ver de olika artiklarna.<\/p>\n\n
Under lagstiftningsprocessen var en grundl\u00e4ggande sv\u00e5righet definitionen av AI, som nu \u00e5terfinns i artikel 3. D\u00e4r definieras ett AI-system som:<\/p>\n\n
\n”ett maskinsystem som \u00e4r utformat f\u00f6r att fungera med varierande grad av autonomi, som potentiellt kan anpassas efter drifts\u00e4ttning, och som kan producera utdata, s\u00e5som f\u00f6ruts\u00e4gelser, inneh\u00e5ll, rekommendationer eller beslut, baserat p\u00e5 de indata som det tar emot, f\u00f6r att uppn\u00e5 specifika explicita och implicita m\u00e5l, som kan p\u00e5verka verkliga eller virtuella milj\u00f6er.”<\/p>\n<\/blockquote>\n\n
Definitionen \u00e4r kopplad till till\u00e4mpningen av f\u00f6rordningen i sin helhet. Om det \u00e4r ett AI-system g\u00e4ller f\u00f6rordningen, annars inte. D\u00e4rf\u00f6r kommer det att vara av yttersta vikt vid tolkningen att klarg\u00f6ra vad definitionen inneb\u00e4r. Best\u00e4mmelsen l\u00e4mnar bland annat oklart om regelbaserade system n\u00e5gonsin kommer att omfattas. Med detta i \u00e5tanke \u00e4r artikeln inte den enklaste att skriva. Det kan vara s\u00e5 att den enda term som \u00e4r l\u00e4tt att tolka \u00e4r ”maskin”, och vi ska inte vara s\u00e5 s\u00e4kra p\u00e5 det heller. I framtiden kommer vi i r\u00e4ttspraxis \u00e5tminstone att \u00f6verv\u00e4ga vilken typ av \u00e5tg\u00e4rder som \u00e4r autonoma i olika grad, vilken grad av anpassning som \u00e4r m\u00f6jlig enligt definitionen och vilka uttryckliga och underf\u00f6rst\u00e5dda m\u00e5l som varje system ger upphov till. – F\u00f6r att inte tala om verkliga eller virtuella milj\u00f6er… s\u00e5 definitionen blev bred.<\/p>\n\n
Till\u00e4mpningsomr\u00e5det blev \u00e4nd\u00e5 brett, men undantag inkluderades ocks\u00e5. Forskarna \u00e4r glada \u00f6ver att ett undantag f\u00f6r vetenskapen inkluderades i f\u00f6rordningen. F\u00f6rordningen \u00e4r inte till\u00e4mplig p\u00e5 AI-system eller AI-modeller som s\u00e4rskilt utformats och genomf\u00f6rts enbart i syfte att bedriva vetenskaplig forskning och utveckling, och inte heller p\u00e5 deras resultat. F\u00f6rordningen \u00e4r inte heller till\u00e4mplig n\u00e4r det g\u00e4ller nationell s\u00e4kerhet. Denna avgr\u00e4nsning av till\u00e4mpningsomr\u00e5det \u00e4r vanlig i EU-r\u00e4tten, men den \u00e4r mycket tydlig i denna f\u00f6rordning. I artikel 2 i f\u00f6rordningen anges flera g\u00e5nger med olika ordalydelse att den inte \u00e4r till\u00e4mplig p\u00e5 AI-system som anv\u00e4nds f\u00f6r milit\u00e4ra \u00e4ndam\u00e5l, f\u00f6rsvars\u00e4ndam\u00e5l eller nationella s\u00e4kerhets\u00e4ndam\u00e5l.<\/p>\n\n
Kommissionens ursprungliga id\u00e9 om ett riskbaserat tillv\u00e4gag\u00e5ngss\u00e4tt, vilket inneb\u00e4r att f\u00f6rordningen delar in systemen i tre kategorier: f\u00f6rbjudna, h\u00f6grisk och \u00f6vriga, \u00f6verlevde fram till den slutliga f\u00f6rordningen. Den fj\u00e4rde kategorin, AI-modeller f\u00f6r allm\u00e4nna \u00e4ndam\u00e5l, skapades under lagstiftningsprocessen. Detta g\u00e4ller s\u00e4rskilt ChatGPT och liknande system.<\/p>\n\n
F\u00f6rbjudna system f\u00e5r inte anv\u00e4ndas i unionen och f\u00e5r inte importeras till unionen. Definitionen \u00e4r inte l\u00e4tt att l\u00e4sa, eftersom systemen \u00e4r f\u00f6rbjudna under vissa villkor och omst\u00e4ndigheter. Enligt artikel 5.1 a i f\u00f6rordningen \u00e4r det t.ex. f\u00f6rbjudet att<\/p>\n\n
\n”utsl\u00e4ppande p\u00e5 marknaden, ibruktagande eller anv\u00e4ndning av ett system f\u00f6r artificiell intelligens som anv\u00e4nder subliminala tekniker som inte medvetet uppfattas av en person eller avsiktligt manipulativa eller bedr\u00e4gliga tekniker som syftar till att f\u00f6rvr\u00e4nga eller v\u00e4sentligt f\u00f6rvr\u00e4nga en persons eller en grupp av personers beteende och d\u00e4rigenom v\u00e4sentligt f\u00f6rs\u00e4mra deras f\u00f6rm\u00e5ga att fatta ett v\u00e4lgrundat beslut och f\u00e5 dem att fatta ett beslut som de annars inte skulle ha fattat, p\u00e5 ett s\u00e4tt som orsakar eller sannolikt kommer att orsaka v\u00e4sentlig skada f\u00f6r den personen, en annan person eller en grupp av personer.”<\/p>\n<\/blockquote>\n\n
Definitionen \u00e4r inte v\u00e4lkommen, s\u00e4rskilt eftersom den inneh\u00e5ller begreppen v\u00e4sentligen<\/em> snedvrida, v\u00e4sentligen<\/em> f\u00f6rs\u00e4mra, sannolikt<\/em> orsaka och v\u00e4sentlig<\/em> skada. Tyv\u00e4rr \u00e4r f\u00f6rordningen ett ymnighetshorn av s\u00e5dana uttryck, som n\u00e4r man l\u00e4ser dem bara kan f\u00e5 en att k\u00e4nna sympati f\u00f6r EG-domstolen. N\u00e4r man l\u00e4ser definitionerna av h\u00f6griskprogram f\u00f6rst\u00e4rks k\u00e4nslan av medk\u00e4nsla. F\u00f6r m\u00e5nga system kommer det att vara sv\u00e5rt att bed\u00f6ma om de utg\u00f6r en h\u00f6g risk eller inte enligt f\u00f6rordningen.<\/p>\n\n
Ibland inneh\u00e5ller f\u00f6rordningen ocks\u00e5 humoristiska passager. Fr\u00e5gan \u00e4r allvarlig och syftet med regleringen \u00e4r utan tvekan \u00e4delt. De fr\u00e5gor som st\u00e5r p\u00e5 spel \u00e4r av samh\u00e4llelig betydelse och har stor r\u00e4ckvidd. Listan \u00f6ver system med h\u00f6g risk har dock ut\u00f6kats till att omfatta<\/p>\n\n
\n”System som \u00e4r avsedda att anv\u00e4ndas f\u00f6r att bed\u00f6ma inl\u00e4rningsresultat, inklusive d\u00e4r dessa resultat anv\u00e4nds f\u00f6r att styra inl\u00e4rningsprocessen f\u00f6r individer i utbildningsinstitutioner p\u00e5 alla niv\u00e5er.”<\/p>\n<\/blockquote>\n\n
Hur enkelt det \u00e4n skulle vara att anv\u00e4nda AI f\u00f6r att r\u00e4tta studenters provsvar anser EU att (det \u00e4r inte f\u00f6rbjudet, men) det finns ansvar och skyldigheter. Man kan bara undra varf\u00f6r detta \u00e4r en fr\u00e5ga av s\u00e5dan omfattning att det \u00e4r n\u00f6dv\u00e4ndigt att lagstifta p\u00e5 unionsniv\u00e5.<\/p>\n\n
P\u00e5 listan \u00f6ver h\u00f6grisk-system finns \u00e4ven detta system med:<\/p>\n\n
\n”System som \u00e4r avsedda att anv\u00e4ndas f\u00f6r observation av studenter och f\u00f6r att uppt\u00e4cka f\u00f6rbjudet beteende under examinationer i eller i anslutning till utbildningsinstitutioner.”<\/p>\n<\/blockquote>\n\n
I praktiken kan detta inneb\u00e4ra att m\u00e4nskliga \u00f6gon \u00e4ven forts\u00e4ttningsvis kommer att beh\u00f6vas f\u00f6r att \u00f6vervaka trampningen, s\u00e5vida inte en utbildningsinstitution vill genomf\u00f6ra det dokumentations- och certifieringsarbete som f\u00f6rordningen kr\u00e4ver f\u00f6r anv\u00e4ndning av h\u00f6griskanl\u00e4ggningar.<\/p>\n\n
En liten l\u00e4ttnad f\u00f6r dem som arbetar med system \u00e4r att man i den slutliga f\u00f6rordningen har lagt till en avgr\u00e4nsningsklausul i artikel 6 ut\u00f6ver definitionerna av h\u00f6grisk-system. Det anges dock att ett system inte utg\u00f6r en h\u00f6g risk om det inte inneb\u00e4r en betydande risk f\u00f6r skada p\u00e5 fysiska personers h\u00e4lsa, s\u00e4kerhet eller grundl\u00e4ggande r\u00e4ttigheter, inklusive att det inte v\u00e4sentligt p\u00e5verkar resultatet av beslutet, med f\u00f6rbeh\u00e5ll f\u00f6r vissa villkor. Denna artikel \u00e4r ocks\u00e5 ganska ogenomskinlig.<\/p>\n\n
Regleringen av h\u00f6griskprogram grundar sig p\u00e5 att dessa program omfattas av ett antal krav, s\u00e4rskilt n\u00e4r det g\u00e4ller kvalitetskontroll. En stor del av artiklarna i f\u00f6rordningen r\u00f6r dessa skyldigheter. De omfattar krav p\u00e5 riskhanteringssystem, datakvalitet, teknisk dokumentation, datalagring, transparens och m\u00e4nsklig tillsyn. Det finns ocks\u00e5 andra ansvarsomr\u00e5den, massor av dem.<\/p>\n\n
Ett resultat av f\u00f6rordningen \u00e4r inr\u00e4ttandet av nya tillsynsmyndigheter. De kommer att inr\u00e4ttas b\u00e5de p\u00e5 EU-niv\u00e5 och p\u00e5 nationell niv\u00e5. F\u00f6rordningen ger ocks\u00e5 m\u00e4nniskor, t.ex. konsumenter, tillg\u00e5ng till r\u00e4ttslig pr\u00f6vning. Enligt artikel 85 har fysiska och juridiska personer som anser att best\u00e4mmelserna i f\u00f6rordningen har \u00f6vertr\u00e4tts r\u00e4tt att l\u00e4mna in ett klagom\u00e5l till en marknads\u00f6vervakningsmyndighet. Tillsynsmyndigheterna kommer att st\u00e4rkas genom m\u00f6jligheten att utd\u00f6ma administrativa b\u00f6ter. En intressant detalj finns i artikel 100, som ocks\u00e5 g\u00f6r det m\u00f6jligt att \u00e5l\u00e4gga unionens institutioner, organ och byr\u00e5er administrativa b\u00f6ter. B\u00f6terna \u00e4r dock relativt sm\u00e5 (750 000 eller 1,5 miljoner om unionen anv\u00e4nder ett f\u00f6rbjudet system) j\u00e4mf\u00f6rt med t.ex. de b\u00f6ter som \u00e5l\u00e4ggs leverant\u00f6rer av AI-modeller f\u00f6r allm\u00e4nna \u00e4ndam\u00e5l (3 % av deras totala globala oms\u00e4ttning under f\u00f6reg\u00e5ende r\u00e4kenskaps\u00e5r eller 15 miljoner euro, beroende p\u00e5 vilket som \u00e4r h\u00f6gst).<\/p>\n\n
F\u00f6rordningen inneh\u00e5ller m\u00e5nga intressanta detaljer, av vilka endast en br\u00e5kdel presenteras i denna korta \u00f6versikt. Det st\u00e5r dock klart att detta \u00e4r en viktig men komplicerad lagstiftning.<\/p>\n\n