Denne artikkelen er produsert og finansiert av Universitetet i Oslo - les mer.

MR-bilder er egentlig satt sammen av en lang rekke mindre biter. Det er helt avgjørende at disse blir riktig rekonstruert.
MR-bilder er egentlig satt sammen av en lang rekke mindre biter. Det er helt avgjørende at disse blir riktig rekonstruert.

Svakheter ved kunstig intelligens avslørt av matematikere

Reproduksjon av bilder fra MR- og CT-skanninger er foreløpig ikke trygt å legge i hendene på en selvlært kunstig intelligens.

Kunstig intelligens er på full fart inn i helsevesenet. Det brukes til å kjenne igjen bilder av for eksempel føflekker, øyeepler eller kreftsvulster.

Dette gjør slike programmer gjerne bedre og raskere enn det legene klarer. De har lært det selv ved å trene seg på tusenvis av bilder som viser friske og ikke-friske tilfeller av for eksempel føflekker. Dataprogrammene er bygget opp som såkalte nevrale nettverk, inspirert av hvordan hjernen vår fungerer.

Det er strenge krav for å få godkjenning til å bruke kunstig intelligens til bildegjenkjenning, for det er også mye som kan gå galt.

Likevel er gjenkjenning av bilder bare barnemat sammenlignet med det Vegard Antun forsker på. Matematikeren sjekker nemlig hvor god en kunstig intelligens er til å lage selve bildene – det som kalles bilderekonstruksjon.

Rekonstruksjon av bilder ligger til grunn for blant annet MR- og CT-undersøkelser.

Ønsker bedre bilder på kortere tid

En MR- eller CT-maskin tar massevis av enkeltbilder som til slutt settes sammen til det bildet legene vurderer. Nå har kunstig intelligens fått prøve seg på denne oppgaven – å rekonstruere det endelig bildet fra dette puslespillet av enkeltbilder – for å se om de klarer det like bra som dagens metoder.

– Dette er en mye mer kompleks oppgave enn å avgjøre om et bilde er en katt eller ikke, eller om det er det en svulst eller ikke, sier Antun, som holder på med en doktorgrad ved Universitetet i Oslo.

Jo lenger du ligger i skanneren, jo bedre bilde får du. Men det tar selvfølgelig lenger tid. Og det er særlig her mange håper kunstige intelligenser kan bli bedre enn dagens metoder.

– Det som har skapt entusiasmen rundt kunstig intelligens på dette feltet, er at du skal klare dette raskere. Du skal få mer nøyaktige bilder på kortere tid, sier Antun.

– Du risikerer å få feil diagnose hvis du rekonstruerer feil bilde, sier Vegard Antun.
– Du risikerer å få feil diagnose hvis du rekonstruerer feil bilde, sier Vegard Antun.

Må bli bedre enn dagens metoder

Men tid er ikke alt. Aller viktigst er det å få et best mulig bilde. Det finnes det gode metoder for i dag.

– Det finnes stabile metoder som er basert på matematisk analyse, sier Antun.

Dersom kunstig intelligens skal ha noe for seg på dette feltet, må bildene de rekonstruerer være minst like stabile og minst like nøyaktige.

Antun har undersøkt hvordan metodene fungerer når han legger på litt støy som kan forvirre den kunstige intelligensen. Klarer de likevel å rekonstruere det de skal?

– Vi utviklet en ustabilitetstest og fikk testet flere nevrale nettverk ordentlig for stabilitet, forteller Antun.

Resultatet var ikke helt overbevisende. De fant nemlig tre typer ustabilitet.

– Disse algoritmene mangler stabiliteten de trenger, sier professor Anders Hansen, som også har vært med på å gjennomføre studien.

En liten bevegelse kan gi feil diagnose

For eksempel viste det seg at hvis man legger inn en knøttliten forstyrrelse på bildet, så rekonstruerer den kunstige intelligensen et helt annet bilde.

– Den minste forstyrrelse, som for eksempel kan være forårsaket av at en pasient beveger seg, kan gi et veldig annet resultat hvis du bruker kunstig intelligens og dyp læring for å rekonstruere medisinske bilder, sier Hansen i en pressemelding fra University of Cambridge.

– Når man plutselig kan få inn komponenter som ikke skulle vært der, blir det problematisk. Det er ganske skremmende, sier Antun.

En liten feil kan få store konsekvenser og dessuten vet man ikke når man har en feil.

– Du risikerer å få feil diagnose hvis du rekonstruerer feil bilde, sier Antun.

De opplevde også få ut helt absurde bilder, bilder som var helt ødelagt.

– Men det er ikke så problematisk, for en lege som ser at bildet er helt ugjenkjennelig, vil gjennomføre en ny skanning.

– Hvis det er en kunstig intelligens som rekonstruerer bilder og deretter en kunstig intelligens som skal klassifisere de samme bildene, så får du en dobbel ustabilitet, sier Antun.

Feil ved lengre skanning

En annen feil de kunstig intelligensene kunne gjøre, var å vaske ut detaljer.

– Du kan se for deg at det nevrale nettverket ikke er vant til å se en svulst i den delen av hjernen og da vasker den den bare ut.

Selv om den altså er der.

Den tredje formen for ustabilitet overrasket forskerne. For man vil jo tro at lengre tid i skanneren gir bedre bilder. Slik var det ikke.

– Slik vil det være med dagens standardmetoder, men med den kunstige intelligensen får du faktisk dårligere bilder. Du kan bruke mer tid i skanneren og få dårligere bilder, sier Antun.

Altså det helt motsatte av det du ønsket deg.

Antun tror det er fordi de er trent i ett bestemt oppsett, for eksempel en fem minutter lang skanning og derfor ikke takler et annet oppsett, som det vil være hvis du skanner i seks minutter.

Fundamentale grenser

Sammen med kollegaene sine har Antun påpekt disse problemene i en artikkel i det vitenskapelige tidsskriftet PNAS. I doktorgraden sin, som straks er ferdig, kommer Antun med en forklaring.

– Det viser seg at det er noen fundamentale grenser for hva du kan få til. Hvis du skal være veldig nøyaktig, vil du bli mer ustabil. Det er en balanse mellom nøyaktighet og stabilitet, sier han.

– Vi har vist matematisk at det er en pris å betale for disse ustabilitetene, sier Hansen.

Matematikerne er ikke redd for å oppfattes som gledesdrepere mens verden rundt roper begeistret om kunstig intelligens, nevrale nettverk og dyp læring.

Forskerne fokuserer nå på å finne grensene for hva som kan gjøres med kunstig intelligens-teknikker. Først når disse grensene er kjent, er det mulig å forstå hvilke problemer de er i stand til å løse.

– Disse teknikkene vil aldri oppdage sine egne begrensninger. Slike begrensninger kan bare vises matematisk, sier Hansen.

Kunstig intelligens

Kunstig intelligens (KI), på engelsk artificial intelligence (AI), er et dataprogram eller en datamaskin som har evnen til å lære på egen hånd.

Det er også et studieretning som prøver å gjøre datamaskiner «smarte». Maskinene jobber på egen hånd uten å bli kodet med kommandoer.

Mange kunstig intelligens-programmer etterligner menneskets tankeprosesser.

Kilde: Wikipedia

Referanser:

Vegard Antun mfl.: On instabilities of deep learning in image reconstruction and the potential costs of AI. PNAS, 2020. Doi.org/10.1073/pnas.1907377117

Vegard Antun: Stability and accuracy in compressive sensing and deep learning. Doktoravhandling ved Matematisk institutt på Universitetet i Oslo, 2020. (Sammendrag)

Powered by Labrador CMS