Google er antagelig lengst fremme i utviklingen av en helt førerløs bil. Google-bilen blir nå testkjørt på veier i USA. Det sitter fortsatt et menneske i bilen som kan gripe inn hvis noe holder på å gå galt.  (Illustrasjon: Handout, Reuters)
Google er antagelig lengst fremme i utviklingen av en helt førerløs bil. Google-bilen blir nå testkjørt på veier i USA. Det sitter fortsatt et menneske i bilen som kan gripe inn hvis noe holder på å gå galt. (Illustrasjon: Handout, Reuters)

Bør den førerløse bilen ofre sin egen passasjer?

Hvis det oppstår en situasjon hvor en ulykke er uunngåelig, kan bilen bli tvunget til å ofre deg for å unngå å skade andre trafikanter. 

Published

Fakta

Trolley-problemet er innen etikken en betegnelse for en rekke tankeeksperimenter som den britiske filosofen Philippa Foot formulerte den første varianten av i 1967:

Forestill deg at du er føreren av en løpsk trikk som farer nedover sporene mot fem arbeidere som ikke kan rekke å flytte seg.

Din eneste mulighet å styre trikken over på et sidespor, men vil også føre til et dødsfall.

Hva gjør du?

Førerløse biler er på vei, men før vi slipper rattet, må vi besvare noen livsviktige spørsmål: Hvis en fotgjenger plutselig går ut foran bilen, skal bilen kjøre ned fotgjengeren eller kjøre inn i en vegg? Og hva hvis en hel familie står foran bilen?

Slike dilemmaer, i etikken kjent som Trolley-problemet (se faktaboks), har berømte filosofer spekulert over i tiår. Men nå som blant andre Google holder på å utvikle førerløse biler, må de abstrakte spørsmålene besvares på en veldig konkret måte.

Bilene må antagelig programmeres til å velge om de skal ofre bilføreren og passasjerene eller andre trafikanter – når det er umulig å unngå en ulykke.

Utformingen av en slik algoritme vil bli diskutert blant bilprodusenter, politikere og i befolkningen.

– Man kan selvfølgelig knytte det til generelle filosofiske overveielser, men det skaper noen helt nye problemstillinger. Vi har ikke ferdig løsninger som kan gi svar på hvordan dette skal fungere. Det er utrolig komplekst, og det er noe vi må ta tak i. Vi kan ikke la markedet styre dette selv, sier Søren Riis, som er førsteamanuensis i filosofi ved institutt for kultur og identitet ved Roskilde Universitet.

Vil du kjøpe en bil som ofrer deg?

Forskere fra Frankrike og USA har nylig publisert resultatene av en nettbasert spørreundersøkelse hvor 913 deltakere svarte på hvordan de forholder seg til det moderne Trolley-problemet.

De fleste mener førerløse biler bør redde flest mulig mennesker, noe som i filosofien kalles utilitarisme. Omkring tre fjerdedeler går inn for at bilen ofrer bilføreren hvis den dermed for eksempel kan redde ti mennesker.

– Jeg tror mange er utilitarister helt intuitivt. Men spørsmålet er om du selv ville kjøpe en bil en slik funksjon, sier Riis.

Studien viste at folk har lettere for å akseptere dette når det handler om andres biler.

Alle må følge de samme reglene

Vi kommer ikke utenom å vedta lover på området, mener Riis.

– Politikere bør helt sikkert ta stilling til det. De må sette grenser for hvor mye bilen skal gjøre for å beskytte bilistens liv, mener han.

Algoritmen bør ta stilling til hvor mange som er i fare inne i og utenfor bilen, men den bør ta hensyn til om noen har brutt loven, foreslår Riis.

– Hvis det er en person i bilen og en utenfor, og personen utenfor ikke overholder loven, vil det være absurd å ta livet av bilisten, sier han.

I en fransk-amerikansk studie ble folk bedt om å velge om den førerløse bilen, med en passasjer, skulle vike unna en gruppe i kjørebanen, selv om det ville koste en annen fotgjenger livet (a) eller ofre passasjeren ved sammenstøt med en vegg (b & c). (Foto: (Montasje: forskning.no))
I en fransk-amerikansk studie ble folk bedt om å velge om den førerløse bilen, med en passasjer, skulle vike unna en gruppe i kjørebanen, selv om det ville koste en annen fotgjenger livet (a) eller ofre passasjeren ved sammenstøt med en vegg (b & c). (Foto: (Montasje: forskning.no))

Han understreker at det er viktig at diskusjonen kommer opp, og at det blir fastlagt en felles standard, slik at reglene er de samme for alle bilprodusenter. Dessuten må reglene legges åpent fram for bilkjøperne, slik at de er helt klar over at de kjøper et eventuelt selvoppofrende system.

Hvem er ansvarlig for ulykker?

Åpenheten omkring et selvoppofrende system kan ha en avskrekkende effekt, slik at de førerløse bilene må vente enda noen år før de blir sluppet løs i trafikken. I første omgang regner Søren Riis med at førerløse biler må nøye seg med å kjøre i lukkede områder og med veldig lav fart.

– Jeg tror ikke det vil forsinke utviklingen av disse bilene. Når denne tematikk blir aktuell, har produsentene allerede laget den førerløse bilen. Men det kan forhindre utbredelsen. Det kan gjøre at folk bli mer skeptiske til teknologien, sier Søren Riis.

Biler vil i de kommende årene bli i stand til å kjøre mer og mer selv, men det vil ta minst ti år før biler uten ratt blir utbredt, mener Riis. Utviklingen vil også stille spørsmål ved hvem som har ansvaret ved en ulykke.

– Det vil komme en fundamental endring i lovgivningen. Men allerede nå begynner vi å dele ansvaret mellom bilprodusenten og bilisten, sier Riis.

Førerløse biler kan føre til færre ulykker

Produsenter av førerløse biler mener de vil være mye sikrere enn biler med mennesker bak rattet. De vil også kunne redusere trengselen på veiene siden de vil kunne kjøre mye tettere, og de vil også skape muligheter for bildeling.

Samlet sett er førerløse biler et skritt i riktig retning, mener Riis.

– Trafikkulykker skyldes ofte mangel på konsentrasjon og påvirkning av alkohol, og mange argumenter omkring trafikksikkerhet taler for de førerløse bilene, sier han.

I praksis vil Trolley-problemet antagelig ikke oppstå så ofte.

– Teknologien kan regne på mange muligheter i løpet av et øyeblikk. Både airbag, bremse- og unnvikelsesmekanismer kan tas i bruk, så det vil sjelden være nødvendig å velge døden for en av trafikantene, sier Søren Riis.

Referanse:

Jean-François Bonnefon, Azim Shariff og Iyad RahwanAutonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars? arXiv:1510.03346v1 [cs.CY] 12 Oct 2015.

© Videnskab.dk. Oversatt av Lars Nygaard for forskning.no.