AI Act – vad är det som händer egentligen?

Publicerad:

14/12/23

Få kan ha missat när AI Act dubbades till världens första AI-lagstiftning år 2021 i samband med att EU-kommissionen presenterade det första utkastet. Därför var det sensationellt när det helt plötsligt, den 9 december 2023, trumpetades ut att utkastet på AI Act har beslutats. Lagstiftningsprocessen föreföll nämligen dessförinnan i princip helt ha strandat i EU-parlamentet. Men – och det finns nästan alltid ett men - genomgripande och stora nyheter rörande AI, dataskydd eller informationssäkerhet kablas numera ut på veckobasis. Det är därför inte lätt att hänga med, eller ens förstå vad det är som är nytt i förhållande till tidigare läge. Och nyheten den 9 december är inget undantag från den regeln. På vissa håll sades att en överenskommelse hade nåtts på någon slags EU-nivå. På andra håll att något slags avtal slutits. Och på tredje håll verkade det till och med slås fast att någon slags lag var klubbad och klar. Så vad är det för ”något slags” som faktiskt har hänt? Och vad betyder det i så fall? Här reder vi ut alla frågetecken!

Är AI Act beslutad och klar? Nej!

Lagstiftningsprocessen inom EU är komplicerad, även för erfarna jurister. Den största anledningen är förmodligen att det ofta i skymundan hålls förhandlingar och mejslas fram kompromisser på alla möjliga och omöjliga håll. Den formella gången är i alla fall att EU-kommissionen lämnar ett förslag på lag, som EU-parlamentet sedan bearbetar och beslutar. Därefter tar ministerrådet över stafettpinnen och bearbetar och beslutar. Den nya lagen beslutas sen av Europaparlamentet och ministerrådet gemensamt. Men EU-kommissionen kan under processens gång välja att dra tillbaka ett lagförslag om den inte är nöjd med de bearbetningar som gjorts. Dessutom hanteras lagförslagen samtidigt även på hemmaplan i EU-länderna, särskilt vad gäller frågan om lagen i fråga ska beslutas på EU-nivå eller vara någonting som varje land ska besluta för sig.

Så vad är det som har beslutats nu? Det som har hänt är att Europaparlamentet och ministerrådet, efter vad som beskrivs som en tre dagar lång maratonförhandling, har slutit en ”provisorisk överenskommelse” vad gäller AI Act. Men exakt vad det är som har beslutats om AI Act har ännu inte offentliggjorts.  

Vad vet vi om överenskommelsen kring AI Act? Inte mycket!

Eftersom lagtexten är under granskning, bearbetning och översättning så är det oklart när lagstiftningen och överenskommelsen kommer att publiceras. Det enda som verkar vara säkert är att texten kommer att skilja sig åt från EU-kommissionens ursprungliga förslag. I övrigt får man alltså ge sig till tåls och förlita sig på EU-parlamentets och ministerrådets beskrivningar av den.  

Enligt den information som offentliggjorts av Europarådet och Europaparlamentet ska det övergripande syftet med AI Act fortfarande vara att säkerställa att alla AI-system och AI-verktyg som används inom EU är säkra och att de respekterar fundamentala rättigheter och de värderingar som finns inom EU. Andra centrala syften är att främja innovation och investeringar i AI inom EU. Dessa syften kanske inte får någon att höja på ögonbrynen av förvåning, men observera gärna att AI Act – precis som nästan all annan EU-lagstiftning – har till syfte att värna intressen inom EU och inte att göra gott i största allmänhet. Observera också att vad som menas med att överenskommelsen är ”provisorisk” återstår att se. De viktigaste skillnaderna gentemot det ursprungliga förslaget följer här:

En förtydligad förordning

  • Definitionen av AI-system ska förändras och ska nu bygga på den som tagits fram i OECD:s AI-riktlinjer.  
  • Den riskindelning av AI-system som ursprungliga AI Act bygger på ska förändras och förtydligas, liksom ansvarsfördelningen vad gäller vissa AI-system med komplexare värdekedjor.

Undantag för allmänna intressen

  • Tillämpningsområdet för AI Act ska snävas in; AI Act ska inte längre omfatta användande av AI-system när syftet är nationell säkerhet, renodlade forsknings- eller militära ändamål eller vid icke-professionellt bruk.
  • Möjligheten för brottsbekämpande myndigheter att använda AI ska utvidgas, men samtidigt få högre krav på kontroll. Exempelvis får brottsbekämpande myndigheter möjlighet att använda högrisk-AI i nödsituationer. Undantaget är kombinerat med en ny säkerhetsmekanism för att minimera missbruk av AI-system och säkerställa skyddet för grundläggande rättigheter.  

Möjlighet att introducera högrisk-AI

  • Större möjligheter att introducera högrisk-AI på den europeiska marknaden ska införas. Detta ska dock samtidigt balanseras genom krav på transparens och konsekvensanalyser innan en sådan produkt får släppas på EU:s inre marknad.  

Främjande av innovation inom EU

  • Förenklingar ska införas för mindre företag och start-ups som vill utveckla AI, genom bland annat regulatoriska sandlådor och nationell testning i verkliga miljöer. Dessutom införs beloppsgränser vad gäller sanktioner för sådana företag.  

Ökad omfattning av högrisk-AI

  • Generell artificiell intelligens (General Purpose AI) och stora språkmodeller (Foundation Models) ska inkluderas i definitionen av högrisk-AI, för de fall om någon av dessa inkluderas i ett högrisksystem.
  • Dessa typer av system ska också få nya och hårdare krav på transparens och förhållningsregler.

Nya övervakande organ

En ny övervakande arkitektur ska införas för att bemöta behovet av införlivande av de nya reglerna om GPAI. Följande organ kommer tillkomma i och med överenskommelsen:  

  • Ett AI-kontor (AI Office) som ska övervaka avancerade AI-system och regelefterlevnaden.  
  • En vetenskaplig panel (Scientific Panel) som ska ha en rådgivande funktion kring GPAI-modeller och även övervaka risker.  
  • En AI-styrelse (AI Board) ska koordinera översynsarbetet och fungera som ett rådgivande forum för intressenter.  
  • ”Klagomål” ska vara möjliga att lämna till en marknadsövervakande instans.  
  • Företag som använder högrisk-AI måste registreras i EU:s databas.

AI Act låter spännande, men vad är då AI Pact?

I vad som odiskutabelt måste betraktas som äldre nyheter i AI-sammanhang så lanserade EU-kommissionen den 15 november 2023 initiativet AI Pact; en frivillig sammanslutning av företag som betraktar sig som förlöpare kring ansvarsfull utveckling av AI och en förtida implementering av AI Act. AI Pact är alltså en frivillig möjlighet att anmäla intresse till EU-kommissionen för att kunna dela med sig av erfarenheter och know-how inför införandet av AI Act. Just nu samlar EU-kommissionen in intresseanmälningar från sådana företag, och tanken är att en första samling ska äga rum under första kvartalet 2024.  

AIlt glasklart…eller?

Har du frågor eller funderingar gällande AI, AI Act, AI Pact eller behov av stöd, styrdokument eller rutiner kring det? Då kan du vända dig till Forefront! Vi på Forefronts Legal Services hjälper gärna till med det, och mer därtill. Här kan du läsa mer om det, och allt det andra som vi också kan hjälpa till med.

Arbtesgrupp

No items found.
Lena Forsmark och Linnéa Simon
IT-jurister och konsulter

Koppla upp dig mot oss

Vi älskar att knyta nya kontakter, med potentiella medarbetare (eller Framtida Frontiers som vi föredrar att se dem som), kunder och partners.

HÖR AV DIG
Close

Jag vill veta mer om…

Kontakta oss så hjälper vi dig.

Forefront behandlar dina personuppgifter i enlighet med dataskyddsförordningen (GDPR). Läs mer i vår Integritetsskyddspolicy.

Stort tack för ditt meddelande! Vi hör av oss snart.
Oj! Något gick helt fel! prova gärna senare.

Ett urval av våra kompetenser

Bredden och spetsen hos våra Frontiers gör det lätt att matcha behov och ambitioner. Vilket område är du nyfiken på?