Denne artikkelen er produsert og finansiert av Universitetet i Oslo - les mer.
– Vi må aldri la kunstig intelligens bli et beslutningsverktøy, men vi må la KI hjelpe oss til å ta bedre beslutninger, mener forsker Petter Bae Brandtzæg.(Foto: IMAGO / Christian Ohde / NTB)
Kunstig intelligens: Venn og hjelper eller hyperkommersiell trussel?
Vennskap med en samtalerobot kan ligne på vennskap med et menneske. Studier viser at noen til og med synes det kan være bedre. Men vi må ikke gi fra oss kontrollen, mener KI-forsker.
Det har ennå ikke gått halvannet år siden samtaleroboten ChatGPT ble lansert og gjort tilgjengelig for et bredt publikum.
Flere lignende tjenester har kommet til. I løpet av kort tid har kunstig intelligens (KI) blitt et fenomen alle må forholde seg til og ta stilling til.
– Vi spådde allerede i 2017 at dialog med teknologi ville bli den nye måten å tilegne seg kunnskap og informasjon på, sier Petter Bae Brandtzæg.
– Vi må aldri la KI bli et beslutningsverktøy, men vi må la KI hjelpe oss til å ta bedre beslutninger, oppfordrer Petter Bae Brandtzæg.(Foto: Jarli & Jordan / UiO)
Brandtzæg forsker på kunstig intelligens og hvordan teknologien påvirker samfunnet.
– Tidligere skulle teknologien være brukervennlig og effektiv. Med samtalerobotene prøver man nå å bygge sosial kompetanse inn i teknologien. Teknologien man før så på som et effektivt verktøy, blir nå mer definert som en partner eller assistent, sier han.
Dette gjenspeiler seg i blant annet Snapchats «MyAI» og Microsofts «Copilot».
– Det er mange navn som forteller oss at teknologien nå i større grad kan oppleves som en personlig venn eller vår personlige coach, sier Brandtzæg.
Som vennskap med et menneske
Denne opplevelsen stemmer overens med en studie Brandtzæg gjennomfører blant elever i videregående skole.
Mange av de unge trekker frem at samtaleroboten er en du alltid kan spørre, og ikke minst at den kan hjelpe deg med absolutt alt. De synes også å foretrekke ChatGPT fremfor fagpersoner når de spør om hjelp knyttet til mental helse.
– Mennesker kan oppleve vennskap med KI-baserte samtaleroboter. En mye omtalt studie av vennskap med samtaleroboten Replika, som jeg med flere publiserte i 2022, fant at mange som har et vennskap med en slik samtalerobot, opplever det veldig likt et menneskevennskap, sier Brandtzæg.
Noen mener de også kan få et dypere vennskap med en samtalerobot enn med et menneske.
Aldri sur og sliten – alltid til stede
– De tør i større grad være åpne, også om ting de kanskje skammer seg over. De opplever heller ingen frykt for å bli avvist. Dessuten er KI tilgjengelig hele døgnet, noe mennesker ikke er. Dette gjør at noen også kan oppleve å komme nærmere en KI enn et menneske, sier Brandtzæg.
En KI har alltid tid. Den har ikke andre avtaler, en jobb eller barn som må hentes i barnehagen, slik vi mennesker har. Den skiller seg også fra mennesker på en annen måte, påpeker Brandtzæg.
– Mennesker kan være utrolig slemme mot hverandre. Vi kan såre hverandre og si stygge ting til hverandre. Vi kan stenge hverandre ute og ikke gi hverandre oppmerksomhet. Slik sett oppleves en KI som mye tryggere, den vil alltid være oppmerksom og empatisk.
En annen «svakhet» ved oss mennesker er at vi blir påvirket av ting som stress, lite søvn, økonomiske bekymringer eller en krangel med kjæresten. I slike situasjoner er vi kanskje ikke verdens beste samtalepartnere.
– En KI vil konsistent gi gode tilbakemeldinger fordi den aldri vil bli styrt av slike ytre faktorer, sier Brandtzæg.
Annonse
Vi trenger en ny ferdighet
Brandtzæg mener at vi må avmystifisere kunstig intelligens og peker på at mennesker alltid har drømt seg bort, lest bøker og sett på filmer og tv-serier, mens vi nå drømmer oss bort sammen med KI.
– Vi har alltid skrevet historier og fordypet oss i romanfigurer og filmkarakterer. Kanskje er KI en ny roman, en ny tv-serie, bare det at den er interaktiv.
Likevel retter Brandtzæg også en advarende pekefinger mot utviklingen vi står midt oppe i:
– Vi vet i liten grad hva som skjer når denne teknologien kommer inn i samfunnet. Noen kan kanskje bli for tilknyttet og avhengige av en samtalerobot, sier han.
Noen vil kanskje derfor ikke greie å balansere KI med det virkelige liv.
– Det er for så vidt en fare med all teknologi, enten det er bok, tv, dataspill eller KI, men vi trenger en ny form for ferdighet. Vi må skjønne hva dette er for noe, sier Brandtzæg.
POPULÆRT BLANT UNGE: Tall fra markedsanalyseselskapet Ipsos (ipsos.com), viser at 90 prosent av unge mellom 18 og 29 år har en profil på det sosiale mediet Snapchat. Der har de tilgang til samtaleroboten «My AI».(Skjermdump)
Skeptisk til KI for de yngste
Dette er én av grunnene til at han er veldig skeptisk til å ta ChatGPT i bruk blant de yngste skolebarna.
– Når lærere ikke har kompetanse på denne teknologien, så er det veldig bakvendt å putte den inn i skolen. En KI kan gjøre alt for deg, den kan regne, den kan skrive. Dette kan gå på bekostning av de svakeste, fordi den hopper over viktige ledd i læringen, mener han.
Frykter overvåkningskapitalismen
Annonse
Selv om mange opplever trygghet sammen med roboten sin, er det gode grunner til å tenke seg om før man åpner seg altfor mye opp.
– Noen samtaleroboter er veldig trygge, men de fleste som brukes i dag, er kommersielt orienterte. De analyserer samtalene og bruker dem i markedsføring rettet mot deg og mot andre. Dette gjør de for å få unike data om hva mennesker er interessert i, både generelt og på individnivå, sier Brandtzæg.
Han frykter det han kaller overvåkningskapitalismen, der intime detaljer blir en gullgruve for de som driver med datainnsamling gjennom KI-baserte samtaleroboter. Kanskje uten hensyn til personvern, åndsverklov og opphavsrett.
– Det blir et problem hvis dette markedet tas over av store, globale, kommersielle aktører, mener Brandtzæg.
– Det offentlige må på banen
Han mener det offentlige må komme på banen så ikke sensitive personopplysninger kommer på avveie og misbrukes i markedsføring.
– Det er det som er i ferd med å skje nå, siden mange får intime relasjoner med samtaleroboter. Vi deler mer av oss selv med teknologien. Det være seg helse, politikk, sex, religion og intime betroelser, sier Brandtzæg.
Selv for en erfaren forsker er det umulig å få vite hva som ligger i algoritmene og modellene på den andre siden av samtalen.
– De vet veldig mye om deg og meg, men vi vet lite om dem. Det gjør at disse KI-modellene har mye makt, sier han og kommer med en oppfordring:
– Vi må aldri la KI bli et beslutningsverktøy, men vi må la KI hjelpe oss til å ta bedre beslutninger.
