I et kapittel i en fersk bok om grenser tar førstelektoren ved Høgskolen i Østfold for seg grensene mellom dem som har rettigheter og dem som ikke har det.

– Hvis vi spør oss hva rettigheter er og hvorfor, blir det vanskelig å forsvare hvorfor mennesker skal være de eneste som har dem, sier Sætra.

– Hvis vi ikke kan skille meningsfullt mellom menneske og maskin, for eksempel, hvordan kan maskiner nektes moralsk status? spør han.

Tett på dyrene

Sætra mener at det er vanskelig å finne ut hvor grensen går, siden det er overlapp mellom mennesker og andre arter. Han snakker om hvordan det er forskjell mellom dem som har rett til moralsk beskyttelse og dem som også har moralske forpliktelser.

– Ulv kan for eksempel ha rettigheter, men vi kan ikke kreve at ulv opptrer moralsk og ikke dreper. Men er ikke dette det samme som med barn, og for eksempel med demente? De har rettigheter, men ikke fullt ansvar for handlingene sine. Dermed blir det problemer med én gang hvis vi baserer rettigheter på intelligens og hvor mye de forstår, sier han.

– Griser har for eksempel lært seg å spille spill på nivå med en treåring. Delfiner og blekkspruter forstår også konsekvensen av handlingene sine. Så lenge det er overlapp mellom mennesker og andre arter, er det vanskelig å finne den avgjørende egenskapen som definerer grensen mellom mennesker, dyr, og kanskje også maskiner, mener Østfold-forskeren.

Programmerte følelser

– Hvis vi skal ekskludere dyr, så går det an å si at det er de avanserte kognitive funksjonene som gjør oss så spesielle at vi fortjener rettigheter mens dyr ikke gjør det. Men så kommer maskiner inn i bildet. De overgår oss på noen måter kognitivt, sier han.

Sætra avviser at følelser er noe argument. En intelligent robot kan programmeres med følelser. Det arbeides med å utvikle maskiner med homeostase og menneskelignende følelser, ifølge denne artikkelen i tidsskriftet Nature Machine Learning.

– Hvis vi lager en maskin som genuint tenker at den er redd for å dø – har vi lov til å gjøre hva vi vil med den, eller blir det en form for slaveri? Vi forsøker å lage roboter som tenker som mennesker, men kan vi da moralsk behandle dem som vi vil? spør han.

Menneske eller maskin?

Det er der han kommer med et av hovedpoengene sine: – Er ikke også mennesker egentlig bare maskiner? Avanserte, biokjemiske maskiner? Men hvis det er kjøtt og blod som er argumentet for å gi mennesker rettigheter og ikke maskiner – hva da med et menneske med en pacemaker eller en protese?

Når vi skal vurdere den moralske statusen til maskiner, er det også relevant å se hvordan vi forholder oss til dem. – Mange barn som får en livaktig robot å leke med, vil føle motvilje mot å skade den. Soldater som rydder miner med en robot, knytter følelsesmessige bånd til minerydderroboten. Mange har også gitt menneskelige egenskaper til bilen sin, fjernsynsapparatet eller robotgressklipperen, uten at dette er bevis for at brødristeren din nå bør få rettigheter, forklarer Sætra.

Rettigheter for mannfolk

Samtidig er det nyttig å minne om at rettigheter i seg selv er en konstruksjon, mener han. Tidlige mennesker hadde ingen andre rettigheter enn dem de kunne kjempe seg til. I de greske bystatene hadde bare mannlige borgere rettigheter. Senere fikk slaver, kvinner og andre etniske grupper rettigheter. Men hele tiden har det pågått en kamp for å søke å ekskludere andre grupper enn sin egen, peker han på.

Samtidig som mange lager sine egne retningslinjer for kunstig intelligens, debatterer forskere innenfor flere fag etikk og rettigheter. EU diskuterer hvilke rettigheter roboter skal ha, og i Saudi-Arabia fikk roboten Sophia statsborgerskap i 2017.

– Trangen til å definere hvem som skal ha rettigheter eller ikke bare ut fra hvor like de er Homo sapiens, er i hvert fall en veldig lite tilfredsstillende strategi, sier Henrik Skaug Sætra.

– Det handler om bevissthet

Einar Duenger Bøhn har en klarere definisjon av hvor rettighetsskillet går mellom menneske og maskin. Da snakker han om noe som tilsvarer menneskerettigheter – altså moral, og ikke juss. En maskin kan jo godt tenkes å få juridiske rettigheter på samme måte som en bedrift kan ha det.

– Sånn som jeg ser det, kommer det alltid ned til ett kriterium. Hvis roboter får en form for bevissthet, så mener jeg at vi må tenke på rettigheter. Så lenge de ikke har det, forblir de bare maskiner, sier han.

Bøhn er professor ved Universitetet i Agder. På Senter for forskning på kunstig intelligens (CAIR) arbeider forskere med kompetanse på både teori, algoritmer og filosofi.

– Det hjelper ikke hvor smarte de blir og hvor intelligente de blir. Det er bevisstheten det kommer an på, sier Bøhn.

Slår av Siri med god samvittighet

Bevissthet – med det mener han den erfaringen vi har av å være i en tilstand. – Jeg har en erfaring av hvordan det er å være i en tilstand. Den har ikke du tilgang til. Den er unikt min. Den erfaringen har mennesker, og den har også mange dyr, men ikke på samme måten. Debatten er ganske stor om hva som skiller oss, men selvbevisstheten og den erfaringen av at det er jeg som har den erfaringen, den skiller mennesker klart ut. Så lenge jeg har den, da faller jeg innenfor den moralske sfæren, mener han.

Når små barn som ikke har den fulle bevisstheten ennå, også har de samme rettighetene, er det fordi de har kapasiteten og er typen til å få den, forklarer han.

Han innrømmer at det vil bli vanskelig å vite om en robot er bevisst. – Men det hjelper ikke om de ligner på oss eller om de kognitivt eller funksjonelt er ganske like oss. Så lenge det er helt mørkt på innsiden, er det ikke noe poeng å gi dem rettigheter. Du bør ikke få dårlig samvittighet av å slå av Siri, sier Einar Duenger Bøhn.

Referanse:

Henrik Skaug Sætra: «Man and His Fellow Machines – An Exploration of the Elusive Boundary Between Man and Other Beings», i Franck Oerban og Elin Strand Larsen (red.): «Discussing Borders, Escaping Traps: Transdisciplinary and Transspatial Approaches», Waxmann (Münster) 2019.

Les også

Kunstig intelligens blir mannssjåvinistiske rasister. Hva kan vi gjøre for å stoppe det?

Roboten Tay ble høyreekstrem på et døgn. Er løsningen et egen tilsyn for roboter?