– Da ChatGPT ble lansert, fikk alle lærere, studenter og skoleelever i Norge tilgang. Uten at vi hadde noen tenkning omkring hvorvidt vi vil ha dette, sier forsker Henrik Skaug Sætra ved Institutt for informatikk på Universitetet i Oslo.
Med dette eksempelet sikter han både til hvor utbredt amerikansk teknologi er i Norge i dag og hvor lite kontroll vi har over den.
– Norge har ekstremt lite kontroll over de ressursene som har blitt så dypt integrert i den demokratiske infrastrukturen vår. Den kontrollen bør vi ta tilbake.
Samtidig sier digitaliseringsminister Karianne Tung og statsminister Jonas Gahr Støre stadig at de er redde for ikke å bli med på det fantastiske toget som går nå.
Sætra antyder at dette er basert på en frykt for at vi da blir stående igjen på perrongen, og det kan vi vel ikke gjøre?
– Jo, det kan vi, sier han. Vi kan først vurdere hvor det toget går og om vi har lyst til å være med dit. Og det er ikke sikkert. Dette høres sikkert ut som et radikalt og urealistisk budskap, men det er det viktigste vi kan gjøre, sier Sætra.
Han er aktuell med boka Hvordan redde demokratiet fra kunstig intelligens.
KI truer selve kjernen av demokratiet
– Kunstig intelligens går på mange måter til kjernen av demokratiet. Den påvirker evnen vår til å ta inn informasjon, bearbeide den og formidle den. Noe som er helt sentralt for oss for å fungere i et demokrati. Dermed gjør den noe med oss som individer, sier Sætra.
Han forteller at kunstig intelligens også påvirker hvordan vi forholder oss til hverandre. Den skaper filterbobler og ekkokamre. Det har noe å si for hva slags verdensbilde vi får.
Du og jeg kan leve på helt forskjellige planeter i sosiale medier. Da blir det vanskeligere for oss å snakke sammen, noe Sætra mener er helt nødvendig for å ha et demokrati som fungerer.
En annen stor utfordring er, ifølge forskeren, at man kan lage veldig overbevisende informasjon som er helt fullstendig oppspinn. Eller den har en kjerne av sannhet i seg med kunstig intelligens. Noe som kan få veldig feil utslag.
– Jeg tror ikke det har hatt all verdens effekt ennå. I hvert fall ikke i Norge. Jeg tror heller ikke at vi i Norge kommer til å falle for noen voldsomme konspirasjonsteorier som skapes på internett. Likevel er det definitivt en fare og viktig å følge med på det her også.
KI som effektiviserer byråkratiet og tar perfekte beslutninger
I tillegg er det mange som har lyst til å bruke KI til å optimalisere og fikse demokratiet. For demokrati er noen ganger svært knotete, sier Sætra.
Og det er ikke så vanskelig å forstå hvorfor det kan synes fristende å bli kvitt mye av det tullete byråkratiet. Hvis KI kan hjelpe oss å få en mer effektiv og optimalisert politikk, hvorfor skulle vi ikke gjøre det? spør han retorisk.
– Men det å drive med politikk selv på et litt lavt nivå er også en del av demokratiet. Det trenger vi kanskje at mennesker driver med og gjør, så det er ikke gitt at det er helt uproblematisk.
Noen er dessuten fristet til å la KI ta større beslutninger for oss fordi vi ser at mennesker ikke alltid er så flinke til å ta perfekte beslutninger.
Han forklarer at i kompliserte saker der det er uoversiktlig og vanskelig, er det fristende å bruke KI til å ta beslutninger. Det er i hvert fall fristende å forberede sakene og legge til rette for det. Men systemene vi har i dag, forstår vi ikke godt nok til at vi beholder menneskelig kontroll. Da undergraver vi også demokratiet til en viss grad.
– Still strengere krav
KI er ikke bare er teknologi, men makt og politikk, minner Sætra om.
– Det siste poenget mitt er at KI-systemene vi bruker, stort sett er bygget og driftet av tre–fire store amerikanske selskaper. Og et par kinesiske selskaper som driver sosiale medier og annen infrastruktur, sier han.
Sætra stiller spørsmål ved hvordan nye og kraftfulle teknologier nå slippes løs i samfunnet vårt uten at vi har noen særlig kontroll over den, eller tar kontroll over den. Eller stiller de dypere spørsmålene om hva den gjør med oss som samfunn.
– Jeg skjønner ikke hvorfor vi ikke stiller strengere krav. Vi mister suverenitet når vi lar ikke-statlige aktører ha så stor kontroll over infrastrukturen vår.
Et tilleggsproblem er at de som har kontrollen, har eksplisitte politiske idealer og motiver som de har lyst til å pushe ut til resten av verden. Det gjør det ekstra problematisk.
– De støtter opp om Trumps agenda. De vil at USA skal være en teknologiimperialist.
Og nåde dem som våger å stå imot, som for eksempel Trump, J.D. Vance og Metas Mark Zuckerberg har sagt rett ut.
På tide at statsministeren forlater X?
Men noen våger. I Brasil stengte for eksempel høyesterett tilgangen til X, tidligere Twitter, en periode i fjor. Dette var etter en lengre feide med Elon Musk om å utestenge brukere som brøt brasiliansk lov.
– Men hva skal vi gjøre, skal vi slutte å bruke sosiale medier, for eksempel? Det er jo der den offentlige samtalen foregår?
– Vel, jeg har slettet de fleste kontoene mine – som på X og Metas plattformer og oppfordrer alle jeg kjenner til det. Samtidig vet jeg at det har en begrenset effekt.
Han peker på hvordan lederne våre, som Gahr Støre, fremdeles er på og bruker X – Elon Musks sosiale medium. Musk bruker den selv veldig aktivt for å fremme sin egne politiske agenda i USA, men nå også i Europa.
Forskeren mener at hvis vår statsminister velger X som sin arena for å komme med pressemeldinger for eksempel, siterer alle avisene i Norge X-innlegget til Støre. Han legitimerer og promoterer plattformen dermed helt direkte.
– Lederne våre har et ansvar, mener jeg. Jo færre av lederne våre og de populære folkevalgte som er på plattformene vi anser som problematiske, jo mindre interessant er det for andre folk å være der. Og det blir mer realistisk at det kommer alternativer som er bedre.
– Hvordan skal vi redde demokratiet fra KI?
– Hovedpoenget mitt er at vi må stille spørsmålene om hva vi egentlig vil ha ut av teknologien. Hva slags samfunn vil vi ha og hva tror vi teknologien kan hjelpe oss til å få? Og ikke minst hva gjør den det vanskelig å oppnå? Da kan vi faktisk stille de grunnleggende og radikale spørsmålene. Kanskje kommer vi frem til at vi bør si nei takk til teknologi som det i dag kanskje virker umulig å si nei takk til.
Han maner til håp og sier at det ikke er umulig å stå imot. Vi må støtte opp under og holde hardt på det EU gjør, med for eksempel Digital Services Act. Det er en forordning som forsøker å gjøre noe med nettopp dette.
– Det EU gjør her, blir amerikanerne sinte for. Og det er også mange i Europa og Norge som er redde for at vi nå er i ferd med å bli langt mer flinke til å si nei enn å faktisk skape noe.
Sætra er opptatt av å utfordre antakelsen om at reguleringer hindrer innovasjon.
– Reguleringer, forutsigbarhet og gode rammeverk promoterer innovasjon. Dette er velkjent innen arbeid med bærekraft. Man kan få masse innovasjon hvis man setter krav om at man ikke skal ødelegge planeten. Det samme vil skje hvis vi sier at det ikke er lov å utnytte dataene våre.
Men det er også viktig å lage noe selv, ikke bare bli veldig gode til å si nei til ny teknologi.
– Vi må definitivt ha mer utvikling av teknologien her i Norge også, sier Sætra.
Mange stemmer har også tatt til orde for at vi trenger europeisk infrastruktur, bygget på andre verdier enn den amerikanske og kinesiske og regulert og kontrollert på andre måter.
Canada styrker finansieringen av tradisjonelle medier
Sætra sier at vi på sosiale medier ikke kan stole på det vi ser. Så hva gjør vi da? Da må vi gå til autoriteter. Det kan være media.
– Jeg mener vi må styrke tradisjonelle medier, for eksempel gjennom finansiering. I Canada blir de store teknologiplattformene pålagt å ta mye av annonseinntektene sine og overføre det til tradisjonelle medier fordi de har sultefôret tradisjonelle medier.
– Vi trenger en mediesektor som er sterk og levende og da må vi subsidiere den, for mediene klarer ikke å konkurrere med gratis saker på internett.
Hjernen trenger også utfordringer
Sætra spør også hva som skjer med hjernen hvis vi slutter å gi den trim. Vi er jo opptatt av å trene kroppen for å holde den ved like.
Kan det tenkes at vi også trenger kognitive utfordringer for å holde oss skarpe og utvikle oss?
– Hvis vi lar ChatGPT lese den lange rapporten og gi oss et sammendrag fordi vi ikke orker å lese lange tekster blir det enda litt vanskeligere å gjøre det neste gang.
Å lese, konsentrere seg, analysere og dra ut essensen av ting, og det å formidle og skrive på en måte som treffer andre, er ting vi må trene på for å få det til.
– Blir jeg dårligere til å kommunisere, dårligere til å snakke med deg, dårligere til å sette meg inn i hva andre mener, så er det et stort problem for hvordan vi forholder oss til hverandre og klarer å snakke med hverandre som mennesker.
– Noen tenker at det er kjempefint at vi kan skrive tekster uten å ha lest god litteratur. Men det blir meningsløst. Gi meg mye heller dårlige tekster skrevet av et menneske som mener noe, har opplevd noe og vil formidle noe enn perfekte tekster som er skrevet av kunstig intelligens. Det gir meg ingenting.
Sætra er veldig klar over at han oppfordrer til ro og moderasjon i en tid der mange er glødende opptatt av og entusiastiske over alt det fantastiske KI nå kan gjøre for oss, og at dette kan synes noe bakstreversk.
For Sætra handler det imidlertid ikke om å stoppe teknologien. Det handler om å vurdere om føre var-prinsippet kan være greit når vi nå står overfor en ny teknologi som utfordrer mange grunnleggende samfunnsverdier – inkludert grunnlaget for demokratiet.
Referanse:
Henrik Skaug Sætra: Hvordan redde demokratiet fra kunstig intelligens. Cappelen Damm, 2025. Sammendrag.
Les også disse sakene fra Universitetet i Oslo:
forskning.no vil gjerne høre fra deg!
Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER
