Stikkord

Den nye AI-forskriften, som ble enstemmig vedtatt etter over 36 timers forhandlinger, introduserer betydelige endringer, med særlig relevans for utdanningssektoren. Det ble bestemt at definisjonen av kunstig intelligens skal baseres på OECDs forslag. Denne definisjonen ser på AI-systemer som maskinbaserte systemer som kan påvirke både fysiske og virtuelle miljøer, og som varierer i autonomi og tilpasningsevne.

“An AI system is a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments. Different AI systems vary in their levels of autonomy and adaptiveness after deployment.”

Viktig å merke seg er at denne forordningen kun er gjeldende innenfor EU og ikke skal innvirke på medlemsstatenes kompetanse innen nasjonal sikkerhet. Det skal settes opp et eget Europesik AI-kontor. Dette er bare en politisk enighet så langt, men det kommer en (AI Pact) AI-lov. Blant de mest betydningsfulle endringene er forbudet mot bruk av ansiktsgjenkjenning i offentlige rom. Det er likevel åpnet for at medlemsland kan bruke denne teknologien for å bekjempe alvorlig kriminalitet eller forebygge terrorangrep. Bruk av følelsesgjenkjenningssystemer er også forbudt på arbeidsplasser og utdanningsinstitusjoner, men med unntak for bruk ved grenseoverganger.

En annen viktig bestemmelse er at det er ulovlig å skrape ansiktsbilder fra Internett for å lage ansiktsgjenkjenningsdatabaser. AI-systemer som er klassifisert som høyrisiko, vil nå kreve en obligatorisk vurdering av deres innvirkning på grunnleggende rettigheter. For modeller for generelle formål, som ChatGPT, kreves det åpenhet før de markedsføres. Særlig oppmerksomhet rettes mot de kraftigste AI-modellene, som GPT-4 og Googles Gemini.

Det er også innført regler om at brukere må informeres når de samhandler med AI-systemer som chatbots, og at AI-generert innhold som deep-fakes må være tydelig merket. For «high-impact general-purpose» AI-modeller er det laget spesielle og strengere regler, og et nytt kontor i EU-kommisjonen vil håndheve disse.

Selv om det er oppnådd politisk enighet om disse reglene, gjenstår detaljene om etterlevelse og implementering, med en toårs innfasingstid før bøter kan ilegges. Bøtenivåene varierer avhengig av overtredelsens alvorlighetsgrad, med opptil 35 millioner euro eller 7 % av globale årlige inntekter for bruk av forbudte AI-teknologier. Andre brudd på loven kan resultere i bøter på opptil €15 millioner eller 3 % av den globale omsetningen, mens uriktige opplysninger kan føre til bøter på opptil €7,5 millioner eller 1,5 % av omsetningen. Det tas hensyn til mindre selskaper og startups, som potensielt kan få lavere bøter tilpasset deres størrelse og økonomiske kapasitet.

Se pressekonferansen her: https://video.consilium.europa.eu/event/en/27283