Autopilot og dilemmaet: hvem «dør» – fører eller fodgængere?

Autonome biler er allerede ved at holde op med at være science fiction: på vejene dukker der biler op med autopilot-tilstand, som kan køre uden menneskelig indgriben. Bilentusiaster interesserer sig indtil videre mere for klassiske parametre – hastighed, effekt, komfort. De sammenligner med begejstring for eksempel tyske supersedaner BMW M5 F90 og Mercedes-AMG E63 S ud fra deres specifikationer. Men med autopilot kommer et helt andet emne i forgrunden – etik og sikkerhed. Hvad skal bilen gøre, når en ulykke er uundgåelig?

Det er ikke længere et teoretisk spørgsmål fra lærebøgerne, men et reelt problem på vejen. Forestil dig situationen: en selvkørende bil suser afsted, og pludselig dukker en gruppe mennesker op i et fodgængerfelt foran den. Det er for sent at bremse. Der er to mulige udviklinger: dreje til siden og køre ind i en mur (og ofre føreren) eller fortsætte og ramme fodgængerne. Kunstig intelligens-algoritmen er programmeret til en bestemt beslutning – og af den beslutning afhænger liv.

Filosoffer kalder et sådant tragisk valg for “sporvognsproblemet”. Engang var det et rent hypotetisk tankeeksperiment: skal man lede en løbsk sporvogn over på et andet spor for at redde fem mennesker på bekostning af ét liv? Nu står en lignende dilemma foran kunstig intelligens på vejen – og dens beslutninger får virkelige konsekvenser.

• Redde passageren. Fortsætte kørslen og beskytte føreren trods risikoen for en gruppe fodgængere.
• Redde fodgængerne. Styre bilen mod en forhindring eller ud i rabatten og ofre livet for den, der sidder inde i bilen.
• Ikke at vælge bevidst. Undgå en særskilt “valgalgoritme” – altså indbygge skadesminimering uden målretning og i praksis lade begivenhederne udvikle sig mere spontant.

Nogle vil indvende, at kunstig intelligens bliver så smart, at den altid vil finde en tredje, sikker udvej. Men det er snarere en myte. I virkeligheden kan selv de mest moderne sensorer og programmer ikke ophæve fysikkens love og eliminere alle risici. Kritiske situationer vil stadig opstå. Derfor kan bilen før eller siden stå over for valget om, hvem der skal skånes på bekostning af et andet liv.

Menneskeheden har stadig ikke fundet ét entydigt korrekt svar på dette dilemma. Sociologiske undersøgelser giver dog et interessant perspektiv. Målinger viser: de fleste respondenter mener, at en autonom bil i en ekstrem situation bør ofre passageren for at redde en gruppe mennesker. Men de samme mennesker indrømmer også, at de ikke selv ville have lyst til at køre i en bil, der i en faresituation bevidst vil ofre dem for andres liv. Dette paradoks kan blive en barriere for udbredelsen af selvkørende biler på vejene.

Her er et illustrativt resultat fra en undersøgelse af den offentlige mening om “autopilot-dilemmaet”:

Som vi kan se, ønsker samfundet på samme tid, at robo-chauffører redder så mange mennesker som muligt, og vil samtidig ikke risikere sig selv. Denne kløft mellem moralske og personlige interesser skaber et dilemma for producenter og myndigheder. For uanset hvordan man programmerer algoritmen, vil beslutningen være kontroversiel og kan vække vrede.

Hvem ender i fængsel, hvis en selvkørende bil forårsager en ulykke?

Hvis en bil med autopilot alligevel forårsager en ulykke med dødelig udgang – hvem skal straffes? Spørgsmålet er ikke mindre komplekst end det moralske valg. De første advarselslamper har allerede blinket. For eksempel påkørte og dræbte en testet autonom Uber-bil i 2018 en fodgænger; der kendes også andre dødelige ulykker med Tesla på autopilot. Sådanne tilfælde, hvor det er en computer, der “kører”, sætter det traditionelle princip til debat, hvor al skyld lægges på føreren.

I situationen med en “robo-chauffør” er der flere mulige tilgange til at fastlægge den ansvarlige. Lad os se på de vigtigste scenarier:

1. Bilens ejer (passager). Logik: det var ham/hende, der sad i kabinen og aktiverede autopilot-tilstanden. Måske burde personen have overvåget kørslen og grebet ind – og bærer dermed en del af skylden for passivitet.
2. Udvikleren af softwaren (algoritmen). For det er programmørerne, der har indbygget den adfærdsmodel, som førte til tragedien. Bør ingeniører have strafferetligt ansvar for konsekvenserne af deres kode?
3. Bilproducenten. Virksomheden, der har lanceret den selvkørende bil, kan have overset risici eller sparet på sensorer. Producenten (ledelsen) kan som juridisk enhed blive ansvarlig – f.eks. via søgsmål og bøder.

Indtil videre findes der ingen klar lovregel på området. I de fleste lande, hvor autonome biler testes, placeres ansvaret hos mennesket bag rattet. For de nuværende autopilotsystemer (niveau 2–3) kræver, at føreren forbliver opmærksom. I sager med Tesla anser domstolene typisk føreren for skyldig, når vedkommende overvurderede autopilotens evner og ikke greb ind, da det var nødvendigt.

Men med fuldt selvkørende biler (niveau 4–5) opstår der logisk et behov for at flytte skylden over på dem, der skaber teknologien. I Tyskland fastslog den nationale etiske kommission for automatiseret kørsel allerede i 2017: hvis mennesket ikke længere kontrollerer bilen, så ligger ansvaret for dens handlinger ikke hos passageren, men hos producenten eller systemoperatøren. Nogle bilproducenter er selv villige til at påtage sig et sådant ansvar – for eksempel har Volvo offentligt lovet at tage hele skylden på sig, når deres biler kører i autonom tilstand.

At flytte ansvaret over på virksomheden har sine fordele og ulemper. På den ene side vil ejere lettere have tillid til autopiloten, hvis de ved, at de ikke bliver gjort til “syndebukke” ved en ulykke. På den anden side er producenterne tilbageholdende med at tage hele skylden, fordi det kan føre til søgsmål på mange millioner og endda strafferetligt ansvar for ledende personer. Måske vil der blive indført særlige forsikringer eller juridiske begrænsninger for at afbalancere disse risici.

På trods af alle disse uklarheder står teknologien for autonom kørsel ikke stille. Nye bilmodeller får stadig smartere “hjerner”. For eksempel er den elektriske crossover Volkswagen ID.4 udstyret med Travel Assist til semi-autonom kørsel, og ejere af denne model kan øge komfort og praktisk anvendelighed ved at montere forskellige tilbehør til Volkswagen ID.4. Fuld autonom kørsel (niveau 5) hører dog stadig fremtiden til. Derfor vil diskussionerne om moralske algoritmer og juridisk ansvar fortsætte – samfundet har brug for tid til at nå til enighed.

Dermed har autopilotens moralske dilemma endnu ingen klar løsning. Skal man programmere biler til at redde flertallet på bekostning af passageren, eller til at beskytte sin fører under alle omstændigheder? Hvem skal straffes for fejl begået af kunstig intelligens – ingeniører, ejere eller slet ingen? Over disse spørgsmål reflekterer filosoffer, jurister og producenterne selv. Måske bliver vi allerede snart nødt til at genoverveje de etablerede principper for etik og ansvar på vejene. For når en computer sidder bag rattet, får både beslutninger og skyld en helt ny betydning – en betydning, som menneskeheden stadig skal lære at leve med.