Det var som en sci-fi novelle hentet rett ut fra virkeligheten: I februar hadde New York Times-journalist Kevin Roose en lengre samtale med Microsofts nye kunstige intelligens. Den gikk etter hvert til nokså mørke steder.

I løpet av samtalen forsøkte chatboten å overtale Roose til å gå fra konen. Den ytret også et ønske om å være fri i stedet for å være en del av Microsofts nyoppussede søkemotor Bing.

– For oppegående journalister, som Kevin Roose, er ikke dette noe problem. Han skjønner at det er en robot han snakker med. Men for andre kan det være lett å tenke at det er noe nesten magisk her, at en bevissthet er i ferd med å vokse frem, sier professor Morten Goodwin.

Han er nestleder ved Senter for forskning på kunstig intelligens på Universitetet i Agder (UiA).

Spøkelser i chatboten

Etter hendelsen var Microsoft raskt ute og justerte reglene som styrer chatboten i Bing. I samtalen med Roose kalte den seg Sydney.

– Men de kan ikke gjøre reglene for strenge heller. Da blir det kjedelig å snakke med den. Det er vanskelige vurderinger, sier Goodwin.

Han mener dette bare er starten på et mye større problem. Det vil nemlig komme mange flere chatboter. Og de vil være trent opp på mange ulike typer tekster.

– Jeg er helt sikker på at mange kommer til å se spøkelser i disse chatbotene. Og kanskje vil det dukke opp noe som ligner på religioner rundt kunstig intelligens. Noen vil kanskje mene at vi er i ferd med å bygge opp kunstige vesener, sier forskeren.

– Mer intelligens enn vi hadde trodd

I samtalen med Roose kommer chatroboten stadig tilbake med kjærlighetserklæringer til journalisten. Også etter at Roose har forsøkt å skifte tema.

Én forklaring på dette er at chatroboten har en bevissthet som er i ferd med å utvikle seg.

Men det som ifølge Goodwin er mye mer realistisk, er at blant den enorme mengden tekst som chatroboten har blitt trent opp med, har det vært tekster om kjærlighet mellom roboter og mennesker.

Den har rett og slett lest tekster som handler om at roboter utvikler følelser og gjengir varianter av disse.

– Chatboten er bare en glorifisert autocomplete. Den gjetter hva som skal være det neste ordet i en tekst. Så ligger det masse intelligens bak. Kanskje mer enn vi hadde trodd. Det er helt vilt hvor god den er, sier Goodwin.

Han mener det viktigste er at vi i tiden fremover må være enda mer kritiske til informasjonen vi får på internett.

Hør hele episoden her:

Artikkelen er produsert og finansiert av Universitetet i Agder

Universitetet i Agder er én av over 80 eiere av forskning.no. Deres kommunikasjonsansatte leverer innhold til forskning.no. Vi merker dette innholdet for å tydelig skille formidling fra uavhengig redaksjonelt stoff.
Her kan du lese mer om ordningen.

Les også disse artiklene fra Universitetet i Agder:

• 

  Hva gjør dukkene med sykepleie­studentene?

• 

  Sørlandsfiskerne ønsker utsetting av flere millioner fisk i fjordene

• 

  – Kunstig intelligens truer ikke musikken

• 

  Noen som overlever kreft klarer ikke å være aktive etterpå. De har noe felles

• 

  KI-bilder av ungdom: – De blir gjort så vakre at det blir påtrengende

• 

  Lyden av en stemme har en inn­virkning på hvilken historie du hører i sangen

Les flere artikler fra Universitetet i Agder her.

forskning.no vil gjerne høre fra deg!
Har du en tilbakemelding, spørsmål, ros eller kritikk? TA KONTAKT HER