Pligtens nytte. Om de etiske aspekter ved selvkørende biler

Transkript

1 Pligtens nytte Om de etiske aspekter ved selvkørende biler Transportens Innovationsnetværk Morten Ziethen, Institut for læring og filosofi Ålborg, d. 22. maj 2018

2 Indledning Selvkørende biler nærmest en tautologi (gentagelse) Automobil: Auto = selv Mobil = bevægelse Automobil = selvbevægelse Selvkørende biler derfor = selvkørende selvbevægere Så hvad handler det der om selvkørende selvbevægere egentlig om?

3

4 Selvlovgivning Autonomi: Auto = selv Nomos = lov/regel Autonomi = selv-lovgivning

5 Selvlovgivning Tidligere: Bilerne var selvbevægende i den forstand, at hverken mennesker eller dyr skulle bruge energi for at flytte dem de skulle bare styres. I dag: Bilerne kan selv styre. Men vi mennesker skal styre de selvstyrende. Spørgsmålene er så bare (bl.a.): 1. Er selvstyrende biler overhovedet ønskværdige? 2. Hvilke love/regler skal selvstyrende biler styre efter? 3. Hvem er ansvarlig?

6 Selvlovgivning Hvordan vurderer vi, om selvstyrende biler er ønskværdige? Kunne gøres på mange måder En måde: Ville vi spare menneskeliv/øge trafiksikkerheden? Hvis spørgsmålet om trafiksikkerhed gøres til kriteriet for vurderingen, er svaret et rungende JA en fuldt udrullet selvstyrende bilpark ville kunne nedbringe antallet af dødsulykker i trafikken med ca. 90 % (anslås det) Er kriteriet derimod, at vi ikke bryder os om menneskeplanlagte dødstilfælde, er de måske ikke så ønskværdige. Kvantitativ vs kvalitativ dødsårsag.

7 Selvlovgivning Hvilke regler skal de selvstyrende biler så styre efter? Skal selvfølgelig overholde færdselsloven. Men: Hvilken regel skal bilen styre efter, når uheldet er ude?

8 Etik Hvordan afgør vi, hvilke regler/love de selvstyrende biler skal styre efter? Ja hvordan kan vi mennesker overhovedet vurdere, hvilke regler der er ønskværdige, og hvilke ikke. Dette spørgsmål et af etikkens centrale spørgsmål.

9 Etik Handler IKKE om, hvad der er den rigtige handling I stedet en diskussion af, hvilket princip man bør lægge til grund for sine handlinger/ hvilket princip man bør lægge til grund for at vurdere kvaliteten af en handling.

10 Etik To klassiske positioner, der ofte dukker op i debatten Utilitarisme I sin handling bør man tilstræbe den maksimale nytte for det maksimale antal mennesker Pligtetik/deontologi Man må aldrig kun behandle et andet menneske som et middel det skal altid behandles som et mål i sig selv

11 Etik Så hvilken regel skal bilen køre efter, når uheldet er ude? 1. Tage hensyn til så mange som muligt 2. Tage hensyn til sin fører Går man ind på 1), kan det brydes op i ekstremt mange underovervejelser, herunder først og fremmest, om man skal tage specifikt hensyn til, hvem de konkrete involverede er.

12 Psykologisk empiri Eksperiment: Moral machine (MIT, Harvard, University of California) online simulator 4 millioner mennesker fra over 100 lande Langt de fleste mener, at biler skal styre efter utilitariske principper, således at den tager hensyn til så mange mennesker som muligt i situationen Stort set ingen ønsker selv at køre eller lade sine nærmeste køre i en bil, der programmeret til at ofre dem i en nødsituation

13 Det er jo tragisk Det er ikke bare et problem, men en tragisk situation. Det tragiske: At det sande og det sande støder sammen I en vis forstand er det jo godt og sandt, at man vil tage hensyn til så mange som muligt. Men i en vis forstand er det lige så godt og sandt, at man altid vil passe på det enkelte menneske og aldrig gøre det til blot et middel/en genstand.

14 Det er jo tragisk Vi ved, at selvkørende biler vil nedbringe antallet af trafikdræbte med op til 90 %. Med mindre vi har en ambition om at lade trafikken være med til at løse jordens problem med overbefolkning, bør vi altså overgå til selvkørende biler Langt de fleste mener, at vi bør lade bilerne styre af utilitaristiske algoritmer det føles rigtigst og tryggest som borger Langt de fleste vil ikke selv køre i den slags biler.

15 Det er jo tragisk I den klassiske tragedie går det jo galt for helten. Modsætningerne er uforenelige. Men kan man finde en løsning i den konkrete situation, når principperne (utilitarisme vs pligtetik) støder sammen, og de begge virker legitime og gode?

16 Standardforståelsen af situationen Utilitarisme Alle menneskene i nødsituationen Pligtetik Menneskene i bilen

17 Hvilken situation? Hvilke involverede? Alle mennesker i verden Menneskene i nødsituationen Menneskene i bilen

18 Faktiske konsekvenser af brugen af utilitarismen som algoritme Flere mennesker vil dø, fordi næsten ingen vil køre i de førerløse biler Knap så mange mennesker i nødsituationer vil dø Lidt flere mennesker i biler vil dø

19 Faktiske konsekvenser af brugen af pligtetikken som algoritme Færre mennesker vil dø, fordi næsten alle vil køre i de førerløse biler Lidt flere mennesker i nødsituationer vil dø Lidt færre mennesker i biler vil dø

20 Den gordiske knude Mit personlige forslag til en løsning pligtetikkens nytteværdi Selvkørende biler er gode for trafiksikkerheden Folk vil ikke køre i biler, som ud fra et utilitaristisk perspektiv er programmeret til at ofre dem i nødsituationer Folk vil gerne køre i selvkørende biler, der ikke ofrer dem i nødsituationer Utilitaristisk set har det derfor meget lav værdi at insistere på, at biler, ud fra et utilitaristisk perspektiv, skal programmeres til i bestemte situationer at ofre føreren Og omvendt har det en stor utilitaristisk effekt at programmere bilerne deontologisk (tage hensyn til føreren), eftersom de fleste mennesker i så fald gerne vil køre i den selvkørende bil til gavn for trafiksikkerheden.

21 Afsluttende refleksion Det siges, at vi lever i oplysningens tidsalder Så burde det ikke være sådan, at vi blev så fornuftige/oplyste, at vi på et tidspunkt indså fornuften i at lade bilerne programmere med afsæt i en utilitaristisk algoritme? Ville jo være det bedste, når det handler om at minimere antallet af trafikdræbte. Svar: Kommer meget an på, hvad fornuft er og hvad fornuften så end er, så er den ikke entydig. Og ud fra et overlevelsesperspektiv, der jo virkelig rummer sin egen fornuft, er det ikke fornuftigt at sætte sig ind i noget, der er programmeret til at ofre en. Fra et overlevelsesperspektiv er fantasien om den maksimale nedbringelse af antallet af trafikdræbte derfor også ufornuftig, for det tal når man kun frem til ved at bede mennesket slukke for sit eget overlevelsesinstinkt. Det virker ret urealistisk, og derfor ser jeg også kun en vej frem for selvkørende biler, hvis de programmes til at tage direkte hensyn til føreren og indirekte til det samlede befolkningstal.