Denne artikkelen er produsert og finansiert av Høgskolen i Østfold - les mer.

Forsker Henrik Sætra konkluderer med at økt bruk av teknologi i politiske beslutningsprosesser kan føre til en revitalisering av demokratiet.

Kan kunstig intelligens erstatte politikerne?

Et demokrati kan tjene på at visse politiske beslutninger overlates til kunstig intelligens.

– Kunstig intelligens brukes allerede i politisk sammenheng. Mitt formål er å undersøke implikasjonene av dette – spesielt dersom vi går så langt at algoritmer får utstrakte fullmakter til å ta politiske beslutninger på selvstendig grunnlag, sier førstelektor Henrik Sætra ved Høgskolen i Østfold.

Sistnevnte omtales som et kunstig intelligens-teknokrati.

Sætra har nylig publisert en vitenskapelig artikkel på tema.

Et teknokrati er ifølge Wikipedia en styreform uten yrkespolitikere, men som heller mot at eksperter innen sine felt styrer samfunnet.

Ekspertene har ofte titler som forskere, professorer, byråkrater, men kan også være for eksempel bønder, sykepleiere og lærere, så lenge de innehar en eksepsjonell kunnskap innen sitt felt.

Ved et kunstig intelligens-teknokrati vil det altså være datamaskiner som tar beslutninger.

Fem argumenter mot kunstig intelligens-teknokrati

Sætra argumenterer for at det er mulig å se for seg en fremtid der kunstig intelligens tar politiske beslutninger. Men dette kan bare skje dersom fem sentrale motforestillinger kan tilbakevises:

  • Mennesker kan ha et behov for politisk aktivitet.
  • Legitimitet svekkes ved et teknokratisk styresett.
  • Maskiner har ingen moral og bør ikke ta beslutninger som påvirker menneskers liv og velferd.
  • Kunstig intelligens er ikke transparent.
  • Vi får problemer med hvem som skal ha ansvaret når maskiner bestemmer.

Sætra mener at disse motforestillingene ikke uten videre bør hindre oss fra å dra nytte av fordelene kunstig intelligens kan gi.

Det er imidlertid avgjørende at problemene knyttet til maktforhold, eierskap og kontroll av algoritmene løses på en forsvarlig måte, understreker han.

Henrik Skaug Sætra er førstelektor ved Avdeling for økonomi, språk og samfunnsfag ved Høgskolen i Østfold.

Utfordrer vårt mål med demokratiet

Forskeren mener at noe av det viktigste vi kan gjøre i dag er å forsøke å forstå hvorfor vi ønsker demokrati. Videre må vi finne ut av om demokratiet slik det er i dag bidrar til å nå de målene vi har som samfunn.

– Grunnen til at jeg lanserer tanken om å forsvare et teknokrati er egentlig at jeg vil teste om argumentene for demokrati er sterke nok til at vi svarer «Nei, takk!» til et teknokrati som i teorien kan gi oss mer effektive beslutninger i isolerte tilfeller, sier Sætra.

– Vi har allerede beveget oss et stykke mot å gi algoritmer og kunstig intelligens reell innflytelse. Dersom vi sier nei takk til kunstig intelligens-teknokratiet jeg tentativt foreslår, er vi også nødt til å ha en kritisk gjennomgang av hvordan vi allerede lar algoritmer ta beslutninger som påvirker menneskers liv og velferd.

– Dette gjelder både i det private og i forvaltningen, forklarer han.

Pandemi- og klimahåndtering vil være lettere ved hjelp av kunstig intelligens

– Ta for eksempel covid-19-håndteringen og responsen på menneskeskapte klimaendringer.

Begge disse temaene er uhyre kompliserte. Det er nærliggende å tenke seg at eksperter lettere kan ta de vanskelige beslutningene og sørge for et langsiktig perspektiv framfor folkevalgte politikere som hele tiden må ta hensyn til at de snart skal stille til valg, tror forskeren.

Han mener kunstig intelligens til en viss grad kan ta rollen til slike eksperter og dermed tilsynelatende fjerne det menneskelige elementet som ofte fremheves som et av hovedproblemene med teknokrati.

Fordeler og utfordringer med kunstig intelligens

– Jeg mener som nevnt at det er problematisk å avvise økt bruk av kunstig intelligens i politiske beslutningsprosesser dersom vi sier at vi er komfortable med hvordan det allerede brukes.

En grunnleggende konsekvens, tenker jeg, er at vi bør ha en langt mer grunnleggende debatt enn vi har hatt så langt, som for eksempel om regjeringens digitaliserings- og kunstig intelligens-strategier, sier Sætra.

Ifølge forskeren finnes det mange opplagte fordeler ved økt bruk og deling av data og kunstig intelligens, men det er også alvorlige utfordringer som det i mange tilfeller hoppes bukk over.

Algoritmer er ikke nøytrale. I mange tilfeller viderefører og gjemmer de eksisterende, strukturelle problemer.

For det første siden de trenes opp på historiske data.

For det andre fordi mennesker uunngåelig er involvert i utviklingen av algoritmene, i generering, innsamling og koding av data og til slutt fortolkningen og bruken av det maskinlæringsmodellene kommer frem til.

– Det er fremdeles langt igjen til det vi kaller forklarbar kunstig intelligens, og jeg diskuterer i min artikkel blant annet behovet for en slags kontrollinstans som kan etterprøve og vurdere de algoritmene som eventuelt skal ta beslutninger.

– Hva ønsker vi oss egentlig som samfunn?

Det tror Sætra det trengs en grunnleggende debatt om.

– Effektivisering og innovasjon er honnørord som det ofte antas at vi ønsker mest mulig av. Det kan imidlertid hende at det er viktig å begrense innsamling og deling av data – spesielt fra det offentlig til det private – til tross for at dette fører til at vi går glipp av visse muligheter.

– Samtidig bør vi forske videre på hvordan vi faktisk kan utnytte mulighetene ny teknologi gir, mener han.

– Jeg konkluderer paradoksalt nok med at økt bruk av teknologi i politiske beslutningsprosesser kan føre til en revitalisering av demokratiet.

Han forklarer at det nemlig ikke er slik at algoritmene skal bestemme hva målet for samfunnet er. Dette vil fremdeles være menneskers rolle, mens maskiner i visse tilfeller kan hjelpe oss med å finne de beste veiene til disse målene.

Kan effektivisere politikken

Dersom vi er villige til å revurdere selve grunnvollene i det moderne demokratiet, kan det tenkes at en slik løsning gjør politikken langt mer forståelig og interessant for de fleste, mener Sætra.

Tekniske detaljer og løsninger defineres til dels ut. Det vi sitter igjen med er de grunnleggende verdispørsmålene og den prinsipielle debatten.

Den kan de fleste av oss bli med på. Med ny teknologi kan det også tenkes at muligheten for å bidra mer direkte inn i en slik debatt øker.

– I korte trekk sier jeg i denne artikkelen at det er viktig at vi som samfunn først tar en grunnleggende debatt om hva vi ønsker og hva våre grunnleggende verdier er.

– Når vi har gjort det, kan det godt tenkes at vi kan bruke ny teknologi til å effektivisere politikken uten at vi innskrenker mulighetene for politisk deltakelse, sier han.

Referanse:

Henrik Skaug Sætra: A shallow defence of a technocracy of artificial intelligence: Examining the political harms of algorithmic governance in the domain of government. Technology in Society, 2020. Doi.org/10.1016/j.techsoc.2020.101283

Powered by Labrador CMS