Denne artikkelen er produsert og finansiert av NTNU - les mer.
– Vi mennesker utøver skjønn, og vi har en hel haug med taus kunnskap som vi bruker når vi gjør vurderinger. Det utøver ikke maskinene. De har ikke tilgang til medmenneskelighet, sier sosiolog Heidrun Åm.
(Illustrasjonsfoto: Colourbox)
Slik kan kunstig intelligens forsterke urettferdighet
PODCAST: Digitale taleassistenter som Siri, Alexa og Google Assistant kan være nyttige. Men dataprogrammene i kunstig intelligens kan også reprodusere fordommer, som at svarte mennesker er mer kriminelle.
Den verdenskjente fysikeren Stephen Hawking var bekymret for at datamaskiner skal utrydde menneskeheten. Det Hawking var urolig for er det som kalles generell kunstig intelligens.
Dette finnes ikke ennå, men han var ikke bekymret helt uten grunn. Forskerne som jobber med kunstig intelligens prøver å finne ut av dette: Hvordan lage datamaskiner som kan lære seg ting helt på egen hånd, og så endre på seg selv.
En av dem er professor Gunnar Tufte ved NTNU. Han mener at mye må skje før generell kunstig intelligens kan skapes.
Hjelpe syke babyer og fjerne søppel i havet
Hvis forskerne en dag skulle greie å etterligne hvordan hjernen virker og utvikle generell kunstig intelligens, da kan man se for seg at datamaskinene ikke vil la oss mennesker bestemme over dem. Det kan bli farlig. Hvorfor i all verden skal vi jobbe for å komme dit?
– Det er ikke lett å svare på, men det er et ubesvart spørsmål hvordan man skal lage slike datamaskiner. Det er derfor utfordringen tiltrekker seg forskere som fluepapir, sier Tufte.
Professor i datateknologi, Heri Ramampiaro, forteller at kunstig intelligens kan hjelpe syke babyer og effektivt fjerne søppel i havet – blant annet på steder som er vanskelig å komme til for mennesker.
Mangler skjønn og medmenneskelighet
Sosiolog Heidrun Åm sier at kunstig intelligens kan forsterke urettferdighet.
– Ettersom systemer med kunstig intelligens lever fra omverdenen så forsterker de fordommene og partiskheten som finnes i verden fra før. Afroamerikanere i Wisconsin i USA har for eksempel fått strengere straff enn hvite for den samme forbrytelsen fordi den kunstige intelligensen rangerer afroamerikanere med større risiko, sier Åm.
Datamaskinene plukker altså opp og reproduserer våre fordommer, som ligger både på og mellom linjene i datasettene de analyserer. For selv om vi kaller dem kunstig intelligente, mangler de egenskapene som skal til for å sette fordommer til side.
– Vi mennesker utøver skjønn, og vi har en hel haug med taus kunnskap som vi bruker når vi gjør vurderinger. Det utøver ikke maskinene. De har ikke tilgang til medmenneskelighet, sier Heidrun Åm.
Hvor smart er den kunstige intelligensen egentlig? Hvordan kan vi utnytte denne teknologien? Hør de tre forskerne Åm, Tufte og Ramampiaro i denne episoden av NTNUs nye podkastserie De store spørsmålene.
Du finner også podcasten i appene der du lytter til podkast.
Podcast: «De store spørsmålene»
De store spørsmålene er en podcast fra NTNU hvor de tar opp temaer som klima, kunstig intelligens, kreftmedisiner, oljeøkonomien og krisepakker for korona.
I hver episode møter du tre forskere som gir deg noen av svarene på de store spørsmålene som driver oss fremover.
Fikk du med deg disse sakene fra NTNU?
