Du kan velge mellom to sykehus. Begge bruker kunstig intelligens til diagnose og behandling:
Ved sykehus A er systemet bedre til å stille diagnose enn leger. Her er ikke legene involvert.
Ved sykehus B tar en lege ansvaret for diagnosen, men den kunstige intelligensen er ikke like avansert.
Hvilket sykehus velger du? Vanskelig spørsmål? Kanskje.
Men ifølge en ny studie, basert på svar fra 1.027 dansker, er sykehus B mer fristende.
Det har ikke data-utviklerne tatt høyde for, men den bør tas med i debatten om bruk av kunstig intelligens, mener en av forsker som står bak studien, som er utgitt i Journal of Medical Internet Research.
– Hvis vi skal ta i bruk kunstig intelligens i offentlig sektor, må vi ta med slike ting i betraktningen, mener Thomas Ploug, som er forsker ved Aalborg universitets forskningssenter for etikk i praksis og hovedforsker bak den nye vitenskapelige artikkelen.
Legens ansvar var viktigst
I alle spørsmålene i forsøket skal deltakerne velge mellom tre hypotetiske sykehus.
Studien skal kartlegge hva som er viktigst for deltakerne:
Om en lege er ansvarlig for beslutningene eller ikke.
Hvor alvorlig pasientens sykdom er.
Om datasystemet er testet for forskjellsbehandling ut fra etnisitet.
Hvor gode beslutningene til systemet er, sammenlignet med legene.
Om beslutninger kan forklares for pasienten.
Om datasystemet bare skal sette diagnoser, eller også behandle pasienten.
Deltakerne prioriterte særlig legeansvar. Det ble valgt som det viktigste i 46,8 prosent av spørsmålene.
Hvor godt systemet kunne forklares, var annenprioritet, med 27,3 prosent.
På tredjeplassen prioriterte deltakerne tester av diskriminering, med 14,8 prosent.
De tre andre parametrene hadde lite betydning.
– Studien viser at folk vil ha en lege som «portvokter», påpeker Ole Winther, professor i data science ved Københavns Universitet. Han har ikke deltatt i arbeidet med studien.
– Så selv om studien viser at folk har tillit til teknologi, stoler de mer på leger, oppsummerer Winther.
Kan også stilles til ansvar
Annonse
Deltakerne i studien har vært mangfoldig, på tvers av kjønn, alder og samfunnsstatus, forteller Aasa Feragen, professor i informatikk ved Danmarks Tekniske Universitet.
– Datasystemet, eller den sykehusledelsen som har kjøpt det, kan også ta ansvar, mener Feragen, som heller ikke har deltatt i arbeidet med studien.
Hun påpeker at et datasystem også «straffes» for å begå feil – det er noe det skal lære av.
For data-utviklere betyr det mye at systemene er effektive, og at man kan forklare hvordan de fungerer, men det er ikke folk flest så opptatt av.(Foto: Shutterstock)
To ulike diskusjoner
Ifølge Thomas Ploug oppfatter befolkningen kunstig intelligens helt annerledes enn dem som arbeider med det.
Et hovedmål med studien var å undersøke hvordan kunstig intelligens skal brukes i samfunnet.
– Det foregår en debatt blant utviklere, etikere og forskere om dette, men det er overraskende få studier av vanlige menneskers holdninger, forklarer han.
Ifølge Ploug ville det være feil å overse dette når man skal bruke kunstig intelligens i samfunnet.
– De som arbeider med kunstig intelligens, snakker mye om yteevne, men folk er ikke så opptatt av dette, påpeker han.
Foretrekker en ansvarlig lege
Ploug påpeker særlig at systemets yteevne ikke hadde mye innflytelse på folks valg – så lenge en lege tok ansvar.
Selv når den kunstige intelligensen ble presentert som betydelig bedre enn legene, foretrakk folk et menneske som ansvarlig.
Annonse
De som utvikler systemer for kunstig intelligens, mener det er merkelig at yteevnen ikke betyr mer.
Ploug innrømmer også at han selv ville prioritert annerledes, men han mener at det bare illustrerer forskjellen mellom forskere og vanlige folk.
Studien indikerer at folk er åpne overfor ny helseteknologi, men at en lege skal ha ansvar for det.(Foto: Shutterstock)
Folk har en sunn skepsis
Ifølge Ole Winther illustrerer studien interessante holdninger:
– Folk har en sunn skepsis overfor ny teknologi, påpeker han.
Men de avviser ikke bruk av kunstig intelligens.
Men de nye resultatene antyder at det er bedre å la teknologien hjelpe leger i stedet for å erstatte dem.
Må tilpasses
Kunstig intelligens må tilpasses pasientenes behov.
Deltakerne er skeptiske til automatiske beslutninger som ikke kontrolleres.
– Leger bør selv gjøre seg opp en mening om pasienten før de spør den kunstige intelligensen, foreslår han.
Ifølge Thomas Ploug er det behov for mer forskning på feltet.
Annonse
Det er viktig å huske hvem man skal hjelpe.
Og selv om studien bare fokuserte på helsesystemet, er den ifølge Ploug relevant for debatten om kunstig intelligens i samfunnet generelt:
