Vil gjøre det ulovlig med manipulerende maskiner. Dette innebærer forslaget til KI-lov

Mandag 30. juni sendte regjeringen på høring et forslag om KI-lov. Loven skal regulere bruk og utvikling av kunstig intelligens (KI), og kommer som en forordning gjennom EU. EUs AI Act trådte i kraft for EU-området 1. august i fjor.

I en pressemelding sier digitaliseringsminister Karianne Tung at loven vil legge til rette for at næringsliv og offentlige virksomheter kan utnytte mulighetene som ligger i utvikling og bruk av kunstig intelligens.

– Dette er en svært viktig milepæl for Norge. Arbeiderpartiregjeringen legger nå til rette for at loven om kunstig intelligens vil tre i kraft i Norge fra sensommeren 2026, omtrent samtidig som hoveddelen av KI-forordningen gjelder i EU, sier hun.

Tung har allerede utnevnt Nasjonal kommunikasjonsmyndighet (Nkom) som ansvarlig tilsynsmyndighet for KI-forordningen. 

Direktør i Datatilsynet, Line Coll, er fornøyd med lovforslaget:

– Denne KI-loven vil gi et mer solid rammeverk for pålitelig og menneskesentrert kunstig intelligens, sier hun.

Skal verne om demokratiet

Målet med loven er å sikre at utvikling og bruk av KI ikke skjer i strid med eller svekker EUs grunnleggende verdier. Det kan for eksempel være demokrati, ikke-diskriminering og personvern.

Digitaliserings- og forvaltningsdepartementet (DFD) skriver at loven «gjør det enklere å innovere med KI innenfor forsvarlige og trygge juridiske rammer». DFD skriver også at den «legger til rette for trygg og etisk KI som på en god måte ivaretar helse, sikkerhet og grunnleggende rettigheter som demokratihensyn, rettssikkerhet og miljøet».

Dette blir ulovlig

Loven deler KI-teknologi inn i fire ulike kategorier basert på hvor stor risiko det er for at de bryter med grunnleggende verdier når de utvikles eller brukes: Uakseptabel, høy, moderat og lav.

KI med uakseptabel risiko blir ulovlig. Det inkluderer blant annet KI som:

• bruker manipulering og løgn for å påvirke oppførselen vår og forstyrre valgene vi tar.
• skraper internett og overvåkningsdata for å lage databaser for ansiktsgjenkjenning.
• klassifiserer personer eller grupper på bakgrunn av visse egenskaper eller trekk, og som kan brukes til å forskjellsbehandle dem.

KI-forordningen til EU forbyr også politi og rettsvesen fra å bruke en del KI-systemer, for eksempel til å vurdere om en person vil begå lovbrudd eller ansiktsgjenkjenning på offentlige steder. Dette ligger ikke inne i det norske lovforslaget, da DFD anser det for allerede å være ulovlig.

Dette blir «strengt» regulert

KI som har høy risiko for å bryte med grunnleggende europeiske verdier, blir underlagt det DFD beskriver som «streng regulering».

KI som havner i denne kategorien, er systemer som brukes til eller i:

• biometri
• kritisk infrastruktur
• utdanning og yrkesrettet opplæring
• sysselsetting, arbeidsledelse og tilgang til selvstendig næringsvirksomhet
• tilgang til og bruk av grunnleggende private tjenester, samt grunnleggende tjenester og ytelser fra det offentlige
• rettshåndhevelse
• migrasjon-, asyl- og grensekontrollforvaltning
• rettspleie og demokratiske prosesser

Underlegges en rekke krav

Selskaper som leverer slike systemer vil underlegges en rekke krav, som DFD beskriver som «strenge». Den nye loven krever at leverandører av høyrisikosystemer bl.a. må:

• utvikle systemet på en sånn måte at det er mulig for mennesker å overvåke og kontrollere dem under bruk
• behandle data som skal trene KI-modeller i tråd med særskilte krav til forsvarlighet
• utarbeide dokumentasjon på tekniske egenskaper ved KI-systemet, som systemets egenskaper, algortimer og kapasitet
• utvikle systemet på en sånn måte at de som tar det i bruk forstår hvordan det fungerer

Må opplyse om trening av modellen

Mer allmenne KI-systemer, som store generative språkmodeller som ChatGPT, må følge krav om transparens og regler om opphavsrett. For eksempel må KI-genererte bilder merkes, og program som kan lage «deepfakes», må opplyse om det.  

KI-leverandørene skal lage en policy for hvordan de skal ivareta EUs regler om opphavsrett. De skal også offentliggjøre en oppsummering av innholdet brukt for å trene KI-modellen.

Høringsfristen er 30. september.