Denne artikkelen er produsert og finansiert av NTNU - les mer.
På skjermen fortsetter det å komme annonser for babyutstyr som en evig påminnelse om barnet som ikke skulle bli.(Illustrasjonsfoto: Shutterstock / NTB)
– Kvinner som har mistet et barn, fortsetter å få reklame og påminnelser om barnet som skulle vært der
Vi blir hele tiden påvirket av kunstig intelligens og skjulte algoritmer. For noen kan dette oppleves vondt og traumatisk.
Tenk deg at du blir gravid. Du gleder deg. Kanskje du googler noe som har med nyfødte å gjøre eller lastet ned en graviditets-app.
Mer skal det ikke til før algoritmene oppfatter at du venter barn.
Så mister du barnet. Sorgen er stor og vond. Men på skjermen fortsetter det å komme annonser for babyutstyr. Som en evig påminnelse om det som ikke skulle bli.
– Samme hvor vi går på nett, så skreddersyr algoritmer din opplevelse ut ifra en antagelse om hva som vil være relevant for deg. Problemet er at disse antagelsene baseres på at det som en gang var relevant for deg, alltid vil være det, sier forsker Lena Bjørlo.
Tidvis opprørende
Hun har forsket på hvordan kunstig intelligens (KI) og algoritmer på nettet påvirker vår mulighet til å ta valg basert på våre egne ønsker og behov.
Det hun fant var tidvis opprørende.
Moderne teknologi gjør det mulig å skreddersy skjult påvirkning på nett på en helt annen måte enn tidligere. Men det betyr ikke at det er etisk riktig, mener forsker Lena Bjørlo.(Foto: Kristin Støylen)
– Algoritmene gjør sine antagelser basert på historiske data om deg uten at du kan påvirke det. Men livet er ikke statisk, det går ikke alltid som planlagt, sier Bjørlo.
Hun gir et hjerteskjærende eksempel på dette om kvinner som har opplevd å miste et barn gjennom spontanabort eller dødfødsel. De fortsetter å få reklame og påminnelser om barnet som skulle vært der.
Algoritmene har stemplet kvinnen som gravid og nekter å oppdatere seg. Det sier noe om makten som ligger i kunstig intelligens, mener Bjørlo.
Skremmende innsikt
Forskeren sier det var skremmende å få innsikt i hvordan kunstig intelligens kan påvirke i det skjulte og de konsekvensene det kan føre med seg.
– Min bakgrunn er markedsføring. I utgangspunktet skulle doktorgraden min handle om hvordan man kan bruke KI for å lage bedre kundeopplevelser. Det var en ganske optimistisk tankegang, forteller forskeren.
Hun trodde man kunne få til en vinn-vinn-situasjon der forbrukerne fikk mer relevant reklame mens bedrifter fikk mer innsikt om sine kunder.
Men det hun kom over da hun startet forskningen, fikk henne til å stoppe opp.
– Jeg skjønte at jeg måtte dykke dypere ned i det som har med individets mulighet til å gjøre egne valg. Basert på våre egne, virkelige preferanser og ikke algoritmenes antagelser eller de kommersielle interessene som ligger bak.
Bjørlo mener dette handler om mye mer enn bare hvilke produkter vi velger når vi shopper på nettet.
– Algoritmene er overalt enten du ser på Netflix eller om du skal kjøpe noe i en nettbutikk. Eller om du skal ta viktige valg i livet. Det kan være valg av utdannelse eller hvilket parti du skal stemme på. Dette handler også om politisk påvirkning, hvordan kunstig intelligens bidrar til polarisering, feilinformasjon og ekkokamre.
Annonse
Ikke mennesker, men regneoperasjoner
Så hvordan fungerer disse algoritmene?
De fleste av oss har opplevd hvordan smarttelefonen eller PC-skjermen fylles opp av reklame for produkter av samme type som noe vi nettopp har søkt opp eller klikket oss inn på via en nettside.
Kanskje er du en ivrig leser av nyheter som handler om biler eller om samlivsproblemer. Snart vil feeden din på sosiale medier flomme over av artikler om nettopp biler eller samliv.
Samtidig vil nyheter om saker du sjeldent klikker deg inn på, ofte forsvinne.
– Har du kjøpt en bok på Amazon, vil det fort komme anbefalinger om andre bøker «du sikkert vil like». Man får en følelse at Amazon ønsker deg vel. Det er på samme måten som når en venn anbefaler deg en bok. Men algoritmene er ikke mennesker. De er regneoperasjoner hvor det ligger sterke økonomiske motiver bak, sier Bjørlo.
Algoritmene – eller KI, den kunstige intelligensen – bruker data om deg som person. Alderen din, hvor du bor, hva du har kjøpt tidligere.
– Så lager den en algoritme-drevet slutning. Den antar ting om oss. Problemet er at vi kan ikke gå inn og korrigere disse slutningene som den tar på våre vegne. Sosiale medier som Facebook kan spørre om du ønsker mer eller mindre av en reklame eller en type nyhetssak, og du kan svare nei. Problemet er at det fungerer ikke.
Lønnsomt marked
For hva skjer når livet endrer seg? Algoritmene på nettet har allerede dannet seg et bilde av deg basert på historiske data.
Bjørlo fant at dette bildet blir værende, ofte mot personens vilje.
– I en av studiene samlet vi inn data om kvinner som hadde opplevd spontanabort, dødfødsel eller at barnet døde like etter fødselen.
Annonse
Markedet for produkter for gravide og nyfødte er både lønnsomt og voksende. Det gjør gravide til et yndet mål for markedsførere.
Problemet er at vi kan ikke gå inn og korrigere disse slutningene som KI tar på våre vegne.
– Vi fant at det blir hengende igjen et slags digitalt spøkelsesbilde av dem selv, som ikke lenger stemmer med virkeligheten. Disse konstante påminnelsene, som de ikke selv kan styre, gjør kvinnenes sorgprosess vanskeligere. Det blir vanskeligere å skulle gå videre.
Bjørlo har flere råd til myndighetene om hvordan man bedre kan sikre personvernet på nett.
– KI og algoritmer skal hjelpe oss til å ta bedre valg. Men for å ivareta vår selvbestemmelse skal de ikke ta disse valgene for oss. Det betyr at antagelsene de gjør om oss, må være mer dynamiske og fleksible. Vi må selv kunne påvirke dem, komme med innspill, sier Bjørlo.
Behov for gjennomsiktighet
Personvernet må derfor få større plass. Der må det legges mer vekt på å beskytte forbrukeren mot manipulerende påvirkning.
– Forbrukerne må kunne ta valg som er bevisste. Teknologien muliggjør skreddersydd og skjult påvirkning på en helt annen måte enn tidligere. At det er mulig, betyr imidlertid ikke at det er etisk riktig. Skal folk overtales til noe, må det skje på en rasjonell måte, sier Bjørlo.
Hun etterlyser også mer gjennomsiktighet i hvordan KI og algoritmene jobber.
– Det handler om at vi bedre skal forstå de valgene vi tar. Om vi kan få mer innsikt i hvilke data som ligger til grunn for det algoritmene anbefaler oss, vil det også være lettere for oss å vurdere om anbefalingen vil være bra for oss.
Personvern handler ikke bare om hvordan man skal hindre at privat informasjon lekker ut til omverdenen.
– Det skal også beskytte oss mot uønsket påvirkning utenfra. Som et skjold mellom oss og omverdenen, sier Bjørlo.
Annonse
Referanse:
Lena Bjørlo: Trading off Autonomy for Convenience – om hvordan bekvemmelighet kan gå på bekostning av selvbestemmelse. Doktoravhandling ved NTNU, 2024. Sammendrag.
