AI-utredningen föreslår ett nytt system för marknadskontroll, utökade sanktionsmöjligheter för myndigheter och en nationell AI-sandlåda, enligt Finansdepartementet i ett pressmeddelande. Förslagen syftar till att anpassa Sverige till EU:s AI-förordning, som trädde i kraft den 1 augusti 2024. Betänkandet har överlämnats till civilminister Erik Slottner.
– AI skapar många nyttor för samhället men vi måste samtidigt hantera riskerna. Social poängsättning, bedrägerier och desinformation är några exempel på hur AI kan användas för att skada samhället. Med gemensamma regler i EU slipper vi dessutom ett lapptäcke av 27 olika AI-lagar, säger civilminister Erik Slottner.
PTS får huvudansvar för AI-tillsyn
För att säkerställa efterlevnad av AI-förordningen föreslås ett samlat system för marknadskontroll som omfattar utveckling, tillhandahållande och användning av AI-system. Post- och telestyrelsen (PTS) får huvudansvaret. Integritetsskyddsmyndigheten (IMY) och Finansinspektionen (FI) ska dela ansvar för högrisk-AI, det vill säga system som kan påverka människors säkerhet, hälsa eller grundläggande rättigheter. Flera andra myndigheter föreslås få kompletterande roller och en förteckning över berörda aktörer ska anmälas till EU.
De utsedda myndigheterna föreslås få utökade befogenheter att besluta om sanktioner vid överträdelser, även mot offentliga aktörer. Avgifterna ska följa AI-förordningens nivåer och nya sekretessregler föreslås för att underlätta informationsdelning mellan myndigheter.
För att främja innovation ska PTS inrätta en regulatorisk sandlåda där företag, myndigheter och andra aktörer kan testa AI-lösningar i en kontrollerad miljö med stöd från ansvariga myndigheter. Sverige föreslås även delta aktivt i AI-förordningens EU-styrning, med PTS som svensk representant i EU:s AI-styrelse. Regelverket föreslås träda i kraft den 2 augusti 2026, när AI-förordningen börjar tillämpas fullt ut.
Risknivåer, förbud och sanktioner
AI-förordningen bygger på en riskbaserad modell. Vissa tillämpningar förbjuds helt, till exempel emotionell igenkänning i skolor och på arbetsplatser samt AI för social poängsättning. Högrisk-AI, såsom system som används vid antagning till utbildningar, får användas men omfattas av krav på registrering, dokumentation och tillsyn. Låg- och minimalrisk-system, exempelvis rekommendationssystem för musik, kan användas utan särskilda restriktioner med vissa undantag.
Generativ AI klassas inte som högrisk men måste uppfylla transparenskrav och följa EU:s upphovsrätt. Det innebär bland annat krav på märkning av AI-genererat innehåll och att systemen ska utformas för att motverka olagligt innehåll.
Vid användning av förbjudna AI-system kan böter uppgå till 35 miljoner euro eller 7 procent av global årsomsättning. Överträdelse av regler för högrisk-AI kan ge upp till 15 miljoner euro eller 3 procent i böter. Även vilseledande uppgifter till tillsynsmyndigheter kan sanktioneras.
