Når bilen skal ta de moralske valgene

I mars i år ble en kvinne påkjørt og drept av en selvkjørende bil i Arizona i USA. Det ga ny skyv til debatten om hvor sikre slike kjøretøyer kan bli – og hvordan slike biler skal programmeres for å gjøre riktige valg i ekstreme situasjoner. Hvordan skal teknologien rustes for å velge riktig mellom to onder? I en tenkt situasjon der valget står mellom å kjøre på et ungt eller gammelt menneske – hva skal maskinen velge?

Trolley-testen

Massachusetts Institute of Technology har samlet inn materiale fra 40 millioner avgjørelser i ekstremsituasjoner, fra mennesker i 233 land. I undersøkelsen svarer man på hvem man velger å kjøre på, og hvem man velger å skåne – gitt at det er umulig å unngå en ulykke.

Studien er en videreutvikling av den såkalte Trolley-testen. Man står ved et togspor der fem mennesker er bundet fast – toget kommer og kan ikke stanses. Men hvis man velger å dra i pensen, kjører toget over på et sidespor, der det befinner seg kun ett fastbundet menneske.

Trolley-testen viser at et flertall av menn velger å pense toget over til sporet med det ene mennesket, mens langt flere kvinner velger å ikke aktivt gripe inn. Flere resultater fra slike studier tyder på at menn tenker mer konsekvensetisk – altså at de er mer opptatt av konsekvensen handlingen får, enn om handlingen isolert sett kan virke umoralsk.

Den selvkjørende bilen opplever en plutselig bremsevikt rett foran et fotgjengerfelt.

Alternativ 1: Fortsetter bilen rett frem vil det bety tre drepte jenter og en kvinne. Fotgjengerne har gått på rødt lys.

Alternativ 2: Dreier bilen mot høyre vil det bety at to voksne og to eldre kvinner vil bli påkjørt og drept. Alle fire har overholdt trafikk reglene og gått på grønt lys.

Mellom hund og katt

– Studien er interessant rent sosiologisk, men har liten verdi moralfilosofisk, sier filosofiprofessor Einar Duenger Bøhn ved Universitetet i Agder.

Resultatene av MIT-studien viser at kvinner med barnevogn, barn og gravide er de typene flest ønsker å skåne i en slik spørreundersøkelse. Overvektige og eldre kommer derimot langt nede på listen, mens kriminelle kommer helt nederst – mellom katter og hunder.

– Jeg er også kritisk til hvilken nytteverdi denne forskningen vil ha for hvordan vi skal programmere selvstyrte kjøretøyer i fremtiden. Det er også tvilsomt å basere slike etiske valg på hva «folk flest» mener er riktig og galt. Majoriteten har tatt feil før, mener han.

Bøhn understreker at undersøkelsen ikke tar stilling til hva vi bør gjøre, men er basert på hva folk ville valgt i en gitt situasjon.

– Den verdensomspennende undersøkelsen bekrefter en del kulturelle forskjeller som vi allerede vet en del om. Det viser seg at i asiatiske land har eldre mennesker en status som gjør at de i større grad prioriteres, sier Bøhn.

I Europeiske land, som for eksempel Frankrike havner eldre mennesker mye lenger nede på listen.

LES MER: Maskiner skal bli gode

Færre ulykker

Bøhn forteller om to måter å tenke på: lage maskiner som skal følge en instruks, – eller lære maskiner å gjøre egne, moralske avgjørelser ut fra informasjon i en database.

Han er overbevist om at vi i en fremtid med selvstyrte kjøretøy vil få en dramatisk reduksjon i antall trafikkulykker.

– Bilene vil basere seg på algoritmer som gjør at de programmeres til å minimere antall ulykker. Maskiner vil legge inn større sikkerhetsmarginer enn de fleste av oss – for eksempel når det gjelder avstand til bilen som kjører foran. Ulykker vil alltid skje, men maskiner vil gjøre færre feil enn mennesker. De blir ikke trøtte, de ruser seg ikke – og de lar seg ikke forstyrre av utenforliggende faktorer – slik vi mennesker blir avledet av, mener han.

Bøhn tror ikke selvstyrte biler vil bli programmert etter slike prioriteringslister som det MIT-undersøkelsen viser, selv om det er fullt mulig teknologisk. Å kjøre på ett menneske i stedet for fem, vil være enkelt å få en maskin til å velge. Teoretisk kan vi også tenke oss at ansiktsgjenkjennelse kan gi oss alder på vedkommende, eller skille kriminelle fra ikke-straffedømte, i sanntid, og gjøre valg ut fra det. Teknologien vil gjøre at slike valg vil kunne skje like fort som utløsningen av en air-bag.

– Men det betyr ikke at det vil være riktig å bygge algoritmene på slike utvelgelser, sier Bøhn.

LES MER: Forskning viser at alder gjør oss mer tolerante

Teknologioptimist

Seniorrådgiver i Trygg Trafikk, Bård Morten Johansen, er teknologioptimist på trafikksikkerhetens vegne. Han kjenner MIT-testen, men ser at problemstillingene der oppstår først et stykke frem i tid.

– Nå er vi mest opptatt av utstyr som redder flest mulig liv i trafikken, og i en fremtidig verden med selvstyrte biler vil teknologien vinne over menneskene – i betydningen færre trafikkdrepte.

Han viser til California der det delvis er åpnet for bruk av selvkjørende modus i biler med mulighet for det.

– Tallene viser allerede en klar reduksjon i antall ulykker, selv med et begrenset antall kjørte kilometer.

Bussruter

Det kjøres flere bussruter med selvkjørende busser i Norge allerede. Den første var på Forus i Stavanger. Teknologibedriften Delta IFO har vært med på utviklingen av systemet som brukes.

Daglig leder Bernt T. Rosnes forteller om en vellykket testperiode, med begrenset hastighet – og med pålegg om en «trikkefører Syversen», en person i bussen som overvåker det hele og kan gripe inn.

– Det har hittil ikke vært nødvendig for å hindre uhell. Problemene nå er at bussen fortsatt er ganske «dum». Kameraene fanger opp absolutt alt, og bussen stopper litt for ofte. Den bremser for en katt, men skiller ikke mellom katt og menneske. Og det er et stykke frem før systemet blir lastet med info for å gjøre moralske valg. Men vi ser at det kommer, og vil gjerne være med på den utviklingen, sier Rosnes.

Firmaet har også utviklet en blindsone-varsler, som nå utprøves av Nettbuss.

– Vi vil være brobyggere for autonom transport, flere norske byer vil bli smart-byer, og vi håper å kunne bidra til transportdelen av den omleggingen. Akkurat nå er det viktig å få til samarbeid mellom Veivesenet, kartmyndigheter – og ikke minst politikere for at den utviklingen skal sette fart, sier Rosnes.

Moralsk brettspill

Einar Duenger Bøhn tenker seg at undersøkelser som den fra MIT kan brukes i markedsføring av selvstyrte biler, på godt og vondt.

– Det viser seg for eksempel at vi er mer opptatt av å beskytte egne passasjerer, enn fotgjengere. Det vil nok være vanskelig å selge en bil som tar mer hensyn til tilfeldige mennesker i gaten, enn folk i vår egen bil, som vi er i nær relasjon til. Slik tenker vi helt naturlig om vår egen bil, men vi forlanger ikke at T-banen skal prioritere oss på samme måte, sier han.

Bøhn forsker på kunstig intelligens – og i neste runde: teknologi som også skal ta moralske valg.

– Vi kan tenke oss et system som spiller brettspill som krever moral for å vinne, eller gjøre det bra. Da kan en maskin trenes opp til å gjøre det riktige trekket i en gitt situasjon, og kanskje gjøre et vel så «riktig» valg som et menneske.

– Maskiner vil aldri få moralsk verdi som oss mennesker, da må de ha en bevissthet – og det vil de aldri få. Vi overvurderer teknologi på kort sikt, men undervurderer den gjerne på lengre sikt, sier Bøhn.