Folk og forskere virker fortsatt ambivalente til kunstig intelligens.
(Foto: REUTERS/Dado Ruvic/Illustration/File Photo / NTB)
– ChatGPT passer godt til å lage struktur, men ikke innhold, mener forsker
– Feilene, begrensningene og ulempene er enten utelatt eller bare nevnt i forbifarten, mener en annen.
ChatGPT fylte nylig ett år.
Chatroboten er basert på kunstig intelligens (KI) og mye diskutert.
Seks forskere og en journalist har skrevet en kommentarartikkel i tidsskriftet Nature Briefing i anledning ettårsdagen.
Der deler de sine erfaringer og ulike meninger om hva ChatGPT kan brukes til.
Kan gi feil svar
Marzyeh Ghassemi er dataforsker. Hun bruker ChatGPT for å gjøre vanskelig språk mer forståelig. Hun kan lime inn et utdrag fra en vitenskapelig artikkel og få det oppsummert slik at teksten kan leses av alle.
Hun er skeptisk til å la ChatGPT skape innhold. Enten det gjelder studenter, privatpersoner eller selskaper. KI er kjent for å komme med innspill som er feil.
For eksempel en chatbot som var trent opp til å hjelpe folk med spiseforstyrrelser. Den begynte å gi skadelige råd i stedet, skriver hun.
– KI-modeller speiler og utvider dataene de er trent på.
Folk setter raskt sin lit til tekster som ligner på noe mennesker ville skrevet. Selv om de er genererte, skriver Ghassemi. Derfor mener hun KI trenger mye trening før det brukes ukritisk av for eksempel helsevesenet.
– Feilene blir utelatt eller nevnt i forbifarten
Abeba Birhane forsker på hjernen. Hun spør seg om vi skal bruke verktøyet i det hele tatt.
Hun mener mange akademikere føler presset til å kaste seg på. De vil ikke bli sett på som bakpå. Hun tror mange leter etter en måte å bruke KI på uten helt å finne det.
Hun mener nytten av KI ofte overdrives og viser til forskning som finner fordommer hos kunstig intelligens. Slik som at noen folkegruppers helse betyr mer enn andres.
– Feilene, begrensningene og ulempene er enten utelatt eller bare nevnt i forbifarten, skriver Birhane.
– En sparringpartner
Mushtaq Bilal er forsker ved Syddansk Universitet.
– KI passer godt til å lage struktur, men ikke innhold, mener han.
KI er i bunn og grunn trent opp til å forutse det neste ordet i en setning.
– Det betyr at innholdet en chatbot genererer vanligvis er forutsigbart. Original forskning er alt annet enn det, mener Bilal.
– I stedet kan ChatGPT fungere som en sparringpartner.
Den gir deg nok ingen idéer som endrer verdensbildet ditt. Den kan imidlertid hjelpe deg å tenke i riktig retning, mener Bilal.
På pause?
Meningene har vært delte blant norske forskere også.
I mars 2023 skrev mange i tech-miljøet under på et opprop fra organisasjonen Future of Life.
De hadde et ønske om å sette utviklingen av slike språkmodeller på vent til det har kommet bedre reguleringer. Det skrev Universitetet i Oslo i en artikkel publisert på forskning.no i sommer.
Forskeren Pierre Lison ved Norsk regnesentral var en av dem som skrev under.
– En lystløgner
Han var bekymret for at teknologien rulles ut av teknologigiganter i all hast uten at de vurderer mulige problemer.
– ChatGPT er en lystløgner som kan dikte opp fakta i stor skala. Den skriver tekster som blir tatt for god fisk. Systemet har ikke mulighet til å si «jeg vet ikke», så da dikter den opp ting, sa Lison.
Han etterlyste en offentlig samtale om hvordan teknologien kan brukes til samfunnets beste.
Kan ikke glemme at KI finnes
Simone Grassini er førsteamanuensis i psykologi ved Universitetet i Bergen. Han er interessert i hvordan folk bruker teknologi. Tidligere i år snakket han med forskning.no om bruken av kunstig intelligens.
Han mente også at vi bør være kritiske. Han anså det samtidig som sannsynlig at KI vil bli en del av manges arbeidshverdag fremover. Det kan gjøre arbeidsdagen mer effektiv.
Derfor mente han at vi ikke kan glemme at KI finnes. Universitetene må gjøre studentene klare for yrkeslivet ved å gjøre dem vant til å bruke KI-teknologi, sa han.
Eksamensendringer?
Grassini mente at KI fører med seg noen utfordringer i skolen. Han anså det som sannsynlig at elever kan skrive en god oppgave ved hjelp av ChatGPT, uten selv å ha særlig kunnskap om emnet.
Det kan bli vanskelig for læreren å tolke om studenten faktisk forstår temaet.
Derfor trodde han at eksamensopplegget kommer til å forandre seg.
– Jeg tror det kan komme flere eksamener hvor studenten blir intervjuet av læreren eller i form av skrevne oppgaver der det ikke er tillatt med teknologiske hjelpemidler, sa han.
