Ministerrådet antog världens första heltäckande AI-lag den 21 maj 2024. Den nya AI akten förväntas utveckla säker och pålitlig AI för hela EU:s inre marknad som offentliga såväl som privata aktörer ska kunna ta del av. Vidare förväntas akten säkerställa att fundamentala rättigheter för EU:s medborgare följs så att ingen individ råkar illa ut till följd av AI-användning. 

AI-akten syftar till att säkerställa att AI-system som utgör en mindre risk ska få lätta transperenskrav medan AI-system som utgör hög risk ska omfattas av höga krav och skyldigheter för att få en plats på EU:s inre marknad. AI-system som utgör en extra stor risk, som exempelvis kognitiv beteendemanipulation och social poängsättning ska förbjudas inom EU då risken är för omfattande. När ett AI-system med hög risk distribueras till vissa enheter som tillhandahåller offentliga tjänster måste utvärdering ske av potentiella konsekvenser för mänskliga rättigheter. Vidare förklaras det i akten att högrisksystem och vissa användare av sådana system ska registreras i EU-databasen för högrisk-AI-system. 

Undantag för somliga ändamål 

Målet med den nya lagen är även att uppmuntra framtida investeringar inom AI-sektorn att utveckla system som följer EU:s riktlinjer och regler. Reglerna för AI-akten gäller alla områden inom EU men ger undantag till mer specifika system, som exempelvis AI kopplat till militär, polis och forskning. 

Den nya lagen förbjuder dock viss typ av polisarbete med hjälp av AI, specifikt förutsägande polisarbete som baseras på profilering där data används för att kategorisera människor enligt etnisk tillhörighet, religion och sexuell läggning. Inom forskningsområdet tas användningen av “general-purpose artificial Intelligence” (GPAI-modeller) upp som exempel. Ett program som går inom GPAI-kategorin är AI-generatorn ChatGPT. Här menar AI-akten att GPAI-modeller som inte utgör systemrisker kommer omfattas av mindre krav medan de som utgör större systemrisker måste följa strikta regler. 

För att säkerställa att dessa regler följs har flera styrande organ skapats, vilket är: 

• Ett AI-kontor inom EU-kommissionen som syftar till att upprätthålla lagarna i hela EU. 
• En panel av vetenskaplig karaktär med oberoende experter med syfte att stödja verkställighetsverksamheten. 
• En AI-styrelse med representanter från de olika medlemsländerna som ska ge råd samt bistå EU-kommissionen och medlemsländerna om effektiv tillämpning av AI-akten. 
• Ett forum som ska rådge intressenter och tillhandahålla teknisk expertis till AI-styrelsen och EU-kommissionen. 

Om reglerna presenterade i AI-akten inte följs kommer böter att utdelas. I dagsläget ska boten ligga på en procentandel av företagets globala årliga omsättning under det föregångna året alternativt ett förutbestämt belopp. Små och medelstora företag samt nyetablerade företag som bryter mot lagen ska få proportionella administrativa böter. 

Finansiering för AI-projekt i norra Sverige 

Norra Sverige kan beskrivas som en viktig pusselbit inom EU:s AI kontext. Aktörer inom Norra Sverige, såsom Luleå tekniska universitet (LTU), Skellefteå kommun, Umeå universitet (UMU) och Sundsvall kommun, är framstående inom diskursen både inom forskning, utbildning samt utveckling inom AI. Detta både individuellt men även genom strategiska samarbeten- på lokal, regional och nationell nivå såväl som på EU nivå.   

Europeiska regionala utvecklingsfonden (Eruf) har bland annat finansierat projektet “Applied AI DIH North”, tillsammans med LTU, Luleå kommun, Skellefteå kommun samt Region Norrbotten. Projektet var aktivt mellan januari 2020 fram till februari 2023 med syfte att lyfta Övre Norrland inom tillämpad AI- genom att skapa ett starkt innovationssystem för tillväxt inom AI-branschen.   

Umeå universitet och Skellefteå kommun är två av åtta partners i det Interreg Europe finansierade projektet Enaibler som mellan år 2023–2027 ska ge den offentliga sektorn verktyg för att ta steget in i en framtid där AI spelar en central roll. Partnerna träffades i juni 2023 i Umeå för att bland annat diskutera etiska policys och ansvarsfull användning av artificiell intelligens i samhället. Diskussionen går även redan nu för att rusta upp för en implementering av AIA som väntas komma år 2026. 

Umeå universitet är också delaktiga i Wallenberg AI, Autonomous Systems and Software Program (WASP), vilket är ett projekt som satsar på projekt inom AI som är bra för samhällen och människor. Forskningen som sker är bland annat på ansvarsfull AI, social AI, människa-AI-interaktion och AI för datahantering. 

Även Sundsvall kommun arbetar med framtidens AI. Under 2023 gjordes undersökningar kring om det var möjligt att införa en öppen AI-plattform. Plattformens syfte är att utveckla AI-tjänster kontinuerligt. För att säkerställa att AI-projektet är hållbart och långsiktigt prioriterar Sundsvalls kommun att AI ska vara säker, transparent, flexibel och framtidssäker samt öppen och delningsbar. 

Vad händer framöver? 

Nästa steg är att akten formellt ska signeras av Europaparlamentets ordförande samt ordföranden för ministerrådet. Därefter kommer akten att publiceras och träda i kraft 20 dagar efter offentliggörandet. De nya reglerna kommer att börja gälla två år efter att de trätt i kraft, förutom för vissa sektorer där reglerna kommer att börja gälla tidigare.  

/Ellen Nilsson 

Läs mer om AI-akten här  

Läs ministerrådets pressmeddelande här

Läs mer om GPAI här