KI-bruken burde være et interessant dilemma for norske politikere

KI kan diskriminere

Både i Danmark, Sverige og Nederland har det blitt avslørt omfattende diskriminering i velferdssystemer basert på KI, som har ødelagt livene til mange tusen sosialt sårbare familier – etter alt å dømme på grunn av politiske beslutningstakeres begeistring for lettvinte teknologiske løsninger de ikke forstod konsekvensene av. 

I tillegg er utvikling av kunstig intelligens basert på enorme mengder data. Det er slik disse verktøyene kan trenes og utvikle sin «intelligens». Dette er den dataen som allerede finnes om oss alle på nett, og som kan være samlet inn uten samtykke, og i strid med personvernet vårt. 

Når det gjelder USAs attraktivitet for teknologiutviklere, skyldes det ikke minst fraværet av regulering som skal hindre at teknologi rammer menneskerettighetene. Siden Trump kom til makten har datagiganter som Google og Meta avviklet tiltak for å sikre at deres KI-baserte teknologi brukes på en etisk forsvarlig måte. 

Kan vi bruke slik teknologi i offentlig sektor uten å gå på akkord med grunnleggende rettigheter og personvern?

Astri Menne Sjoner og Gerald Kador Folkvord
Politiske rådgivere, Amnesty Norge

Behov for større politisk fokus

Bruken av KI burde være et interessant dilemma for norske politikere: Kan vi bruke slik teknologi i offentlig sektor – i helsevesenet, i skolene – uten å gå på akkord med grunnleggende rettigheter og personvern? Hvordan kan det i så fall gjøres?

At KI nevnes svært få antall ganger i partiprogrammene for kommende stortingsperiode er oppsiktsvekkende.

Programmene kunne vært en god anledning til å gjøre prinsipielle vurderinger når det kommer til denne nye teknologien. Ikke bare for å henge med på teknologikappløpet, men for å sikre at innføringen av disse verktøyene ikke er ukritisk til hvilke rettighetsutfordringer de fører med seg.

I forrige stortingsperiode ble det gjort kvantesprang innenfor KI-teknologi. Verktøyene brukes nå på mange arbeidsplasser og i flere statlige virksomheter.

I den kommende stortingsperioden bør det skje kvantesprang når det kommer til samfunnets møte med denne teknologien. Aktørene og tilbyderne må reguleres. De kan ikke skrape inn persondataene våre uten at vi sier noe til det, og vi bør ikke ta i bruk verktøyene uten et kritisk blikk på hvilke rettigheter vi potensielt bidrar til å bryte ved å gjøre det.