En notis fra Norges forskningsråd - les mer.
Smart teknologi og kunstig intelligens er blitt en del av hverdagen vår, men det er ikke alltid at det er så heldig.
(Illustrasjonsfoto: Shutterstock)
Hvordan kan en chatbot bli rasist over natten?
Ingen vet helt hvordan den digitale framtida di kommer til å se ut, men det er sannsynlig at den vil inneholde 5G, mer stordata og enda flere tekniske duppeditter.
Bak skjermene er det sorte bokser hvor det foregår masse som du ikke kan se, men som kommer til å ta beslutninger på vegne av deg og livet ditt. Disse beslutningene er basert på kunstig intelligens.
Kunstig intelligens handler enkelt forklart om å ta i bruk data som finnes fra før, og algoritmer som bruker dataene for å regne ut et visst utfall. Teknologiene styrer hva vi ser i sosiale medier, anbefaler hvilken utdanning vi skal ta, og kontrollerer skattemeldingene våre.
Flere forskere har påpekt at smarte teknologier kan ha uheldige konsekvenser.
Et kjent eksempel på at teknologien kan slå feil, er Microsofts chatbot Tay, som i 2016 på et blunk gikk fra å legge ut harmløse tweets til å spy ut tusenvis av rasistiske meldinger.
Tay lærte av andre menneskers samtaler på nett, men trolig ikke de samtalene Microsoft ønsket. Kort tid etter den første lanseringen måtte selskapet stoppe chatboten.
– Kunstig intelligens er laget av mennesker og er ikke perfekt, og det påvirker livene våre på forskjellige måter. Maskiner kan ta feil, og disse feilene kan ha uheldige utfall og føre til både diskriminering, overvåkning og svekkelse av demokratiet.
– Samtidig brukes kunstig intelligens stadig mer. Derfor må vi snakke om hvordan vi kan påvirke og styre hva teknologi og kunstig intelligens skal brukes til og gjøre.
Dette sier Lisa Reutter, stipendiat ved Institutt for sosiologi og statsvitenskap på NTNU. Hun forsker på samspillet mellom smarte teknologier, mennesker og demokrati, og skal holde foredrag under Researchers´ Night Live på NTNU den 25. september.
Les mer om arrangementet på forskningsdagene.no
Hun er mer opptatt av hvordan mennesker kan påvirke teknologien, enn av hvordan teknologien påvirker oss.
– Vi trenger en offentlig diskusjon om hva vi vil bruke teknologi til, hvordan vi skal bruke det, og hva vi ikke bør bruke det til. Vi kan ikke sitte og vente på konsekvensene kunstig intelligens har for oss, når vi vet at det har feil, kan utvikles feil og brukes feil. Vi må snakke om personvern, diskriminering og eventuelle utilsiktede konsekvenser, og vi må si ifra når vi synes at noe ikke er greit, sier Reutter.
Under RN Live skal Lisa Reutter snakke om hvordan teknologi og demokrati henger sammen, og viktigheten av at vi forstår hvordan vi kan påvirke hvordan den digitale framtida vår skal se ut. I foredraget hennes får publikum høre om Tay, om en selvkjørende bil som ikke kan skille mellom søppeldunker og syklister, og om Amazon-algoritmen som glemte at kvinner finnes.
Les hele saken på forskningsdagene.no
Forskningsdagene 2020
Denne notisen er skrevet i forbindelse med Forskningsdagene, hvor årets tema er hjernen.
Forskningsfestivalen arrangeres over hele landet og varer fra 16. september til og med 27. september.
Les mer om årets arrangement på forskningsdagene.no
Fikk du med deg disse artiklene fra Norges forskningsråd?
