Zuckerberg ga oss nylig sin versjon av KI-paradis. Den er et helvete. Norden og Europa må svare

Jeg er født i 1999 og er for ung til å ha opplevd internettets gylne dager. Jeg fikk aldri se en digital verden preget av åpenhet, kreativitet og dugnadsånd. I stedet har jeg vokst opp med et internett infisert av reklame, polariserte kommentarfelt og innhold designet for å holde deg lengst mulig klistret til skjermen. Internettet har på mange måter blitt mye verre enn da jeg ble født. 

I løpet av min levetid har også sosiale medier blitt mye mindre sosiale. Facebook og Instagram startet som steder for venner og familie. Nå serverer de ragebait, «slop»-videoer og stadig flere annonser.

Målet er å lokke deg inn og samle data om hva du liker.

Det er ikke et uhell, men det som kalles enshitification. Enshitification er et begrep som beskriver prosessen der de fleste digitale plattformer uunngåelig blir verre over tid. Jeg tror KI-modeller er nestemann i køen. For å forstå hvorfor, må vi først se på de tre typiske fasene i enshitification-prosessen.

Fra gøy og gratis til avhengighet og monopol

Først kommer vekstfasen, hvor plattformene konkurrerer om å få flest mulig brukere ved å tilby en positiv, ofte gratis, opplevelse. Målet er å lokke deg inn og samle data om hva du liker. Dette er fasen hvor de fleste fellesskap oppstår, og hvor du kanskje til og med får reelle menneskelige forbindelser. I denne perioden er plattformene villige til å tape penger på kort sikt for å bygge en lojal brukerbase.

Annonsene begynner gradvis å snike seg inn mellom poster fra onkler og tanter.

Når brukermassen er stor nok, begynner fase to: inntektsgenerering. Nå skal investeringene hentes inn. Annonsene begynner gradvis å snike seg inn mellom poster fra onkler og tanter, algoritmene skrus gradvis for å prioritere betalt innhold og datainnhøstingen intensiveres. Brukeradferden du genererer omgjøres til kommersielle produkter som selges til høystbydende. 

Dette leder til slutt til utvinningsfasen hvor plattformene er så dominante at knapt noen kan konkurrere mot dem. Stresset ved å bytte til en alternativ tjeneste som ikke dine bekjente bruker er så høy at de fleste ikke orker å gjøre det, selv om de klager over plattformen. På grunn av monopolet taper også annonsørene, fordi de ikke lenger kan nå sine kunder uten å betale plattformen en stadig høyere annonsepremie. 

Nye muligheter for bruk av kunstig intelligens

Så hvordan kan kunstig intelligens utsettes for enshitification?

I to ferske intervjuer la nylig Meta-sjef Mark Zuckerberg frem sin visjon for KI. Der snakker han entusiastisk om hvordan Meta kan automatisere markedsføring fullstendig. Tanken er enkel: det eneste bedriftene trenger å gjøre er å gå til Meta og si «Vi ønsker å selge så mye av dette produktet til denne prisen.» Deretter tar Metas KI-systemer over.

Zuckerberg ser for seg at Meta skal tilby brukerne digitale venner, terapeuter og også potensielt KI-kjærester

De velger automatisk den ideelle målgruppen, lager budskap og plakater, fikser plassering i feeden og påvirker brukerne til å kjøpe produktet. Det blir en «Black Box» hvor KI-en får frie tøyler til å generere skreddersydd reklame uten at noen vet hvordan det gjøres.

Innhold i feeden din vil genereres av KI

Zuckerberg forteller også om det han kaller «den tredje epoken» for sosiale medier hvor han ser for seg at KI-generert innhold i større grad vil overta feeden din. Det vil være  «svært personalisert», altså skreddersydd for å for å holde deg scrollende og kjøpevillig. Resultatet  blir en feed som aldri sover, men kontinuerlig justerer seg for å fange din oppmerksomhet. Det er dårlig nytt for alle (meg inkludert) som sliter med å legge fra seg mobilen.

Kunstig intelligente venner

Det siste Zuckerberg ser for seg er at Meta skal tilby brukerne digitale venner, terapeuter og også potensielt KI-kjærester. Disse samtalepartnerne skal kjenne hele vår meldings- og bildehistorikk, lytte til hverdagsproblemer og gi råd. Men hvor gode kan KI-venner være? De vil sikkert hjelpe ensomme, men grunnleggende sett er det en skjev relasjon: KI-assistenten arbeider for et selskap som lever av mikrotargeting.

Dine intime betroelser blir dermed verdifulle datapunkter i et kommersielt system.

Det virkelig urovekkende er hvor empatiske, overbevisende og smigrende modellene kan være. Tenk deg en samtalepartner som alltid forstår deg, alltid har tid, alltid husker alt – men som samtidig har skjulte mål satt av fjerne ledere i USA (og Kina, primært for å selge deg ting. Dette er Zuckerbergs drøm.

Vi kan stoppe enshitification av KI

Men denne drømmen er ikke uunngåelig. Enshitification skjer fordi vi tillater det, fordi vi velger bekvemmelighet fremfor kontroll. «If you are not paying for the product, you are the product» er ikke en naturlov. Det er et resultat av bevisste forretningsmodeller.

Det finnes faktisk digitale tjenester som har motstått enshitification. Wikipedia har forblitt reklamefri og brukerstyrt. Signal tilbyr ende-til-ende-kryptert kommunikasjon som gjør datainnhøsting umulig. Selv e-post forblir en åpen standard ingen enkeltaktør kan kontrollere. Fellesnevneren er smarte valg av arkitektur, styringsmodell og finansiering som hindrer monopolisering og kommersialisering.

KI er ikke en artig tjeneste, men kritisk infrastruktur

Jeg har virkelig ikke troen på at Norge har evnen til å lage toppmodeller på egen hånd. Jeg har derimot troen på at Europa kan få det til, eller ideelt sett Norden. Men for at europeisk KI skal lykkes må systemene være konkurransedyktige, lett tilgjengelige og like gode som de amerikanske. Vi må behandle KI som kritisk infrastruktur i stedet for en artig tjeneste på nett. Dette krever betydelige investeringer, tiltrekning av internasjonal ekspertise, og vilje til langsiktig satsing. 

Kanskje viktigst av alt krever det at vi slutter å behandle KI som et gratis gode og i stedet erkjenner at gode systemer har en pris – enten i form av direkte betaling eller indirekte gjennom kommersialisering av vår oppmerksomhet.

Googles motto var en gang «Don't be evil». I en tid der teknologigiganter åpent drømmer om å gjøre våre dypeste menneskelige relasjoner til salgbare produkter, trenger vi mer enn passive håp om at tekselskapene skal opptre etisk. Vi trenger reelle alternativer bygget på fundamentalt andre premisser.