Hoe ethisch kan de zelfrijdende auto eigenlijk zijn?

‘Lang is aangenomen dat dingen en apparaten geen morele keuzes maken’, stond maandag in het commentaar van deze krant. Maar nu besteden we bepaalde keuzes uit aan computers, die bijvoorbeeld in zo’n zelfrijdende auto zitten. Wat betekent dat voor de menselijke ethiek?

“Wij proberen auto’s rationeler te maken dan wij zelf zijn”, zegt Paul van Tongeren, emeritus-hoogleraar ethiek in Nijmegen en Leuven. “Dat doen wij omdat ons dat beter lijkt. Een zelfrijdende machine kan niet afgeleid zijn tijdens het autorijden of in slaap vallen, mensen wel. Deze auto hebben we dus gebouwd om onze eigen onvolmaaktheid te overwinnen. Het paradoxale is: juist omdat de zelfrijdende auto beter kan nadenken dan de mens – het algoritme handelt rationeler dan wij ooit zouden kunnen – vinden wij de auto problematisch. Bijvoorbeeld: wat te doen als je er niet aan ontkomt om iemand te overrijden, en het slachtoffer is ofwel een kleuter ofwel een oud mannetje? Daar kunnen wij van tevoren allerlei redeneringen over opzetten. Waarschijnlijk volgt daaruit: dan maar beter het oude mannetje. Maar als die situatie zich vervolgens daadwerkelijk voordoet, vinden wij het toch onverantwoord om op zo’n koude, harde manier over levens te oordelen. Op een bepaald punt hechten mensen meer waarde aan de eigen irrationele emoties, dan aan de rationele handelingen van de zelfbedachte machine.”

“Is deze discussie geen storm in een glas water?”, reageert Fleur Jongepier, docent toegepaste ethiek en onderzoeker aan de Radboud Universiteit. “We moeten ons afvragen of de opwinding over de zelfrijdende auto en hoe deze ons dwingt om na te denken over ethiek wel zo terecht is. Dit soort schrijnende morele dilemma’s zijn gelukkig uiterst zeldzaam. Toch krijgen zulke vraagstukken veel aandacht. Het zou jammer zijn als dat ten koste gaat van andere ethische kwesties over technologie of autorijden die veel vaker voorkomen. Denk aan alle cookies die we accepteren op sociale media, waardoor techniek onze privacy vaak ondermijnt. Of aan zogenoemde bob-arrangementen: wijnarrangementen van halve glazen die restaurants aanbieden aan mensen die nog moeten rijden, waardoor automobilisten alsnog verleid worden om alcohol te drinken.”

Van Tongeren: “Ja, maar de zelfrijdende auto is symptoom van een breder probleem. Het laat zien dat technieken beslissingen overnemen van de mens. Dat is een tamelijk recent gegeven. Vroeger werd techniek eerder in termen van het verlichten van werk gedefinieerd. De mens bleef daarbij de uiteindelijke verantwoordelijkheid dragen. Maar als je in een zelfrijdende auto stapt, geef je die uit handen. De auto maakt nu de morele keuzes. Onze reactie daarop toont het tragische karakter van de mens als moreel wezen. Wij voelen ons verantwoordelijk en willen zo goed mogelijk handelen. Om onze onvermijdelijke onvolmaaktheid te corrigeren, bouwen we een machine die het beter kan doen dan wij zelf. Maar die machine onttrekt ons vervolgens aan onze verantwoordelijkheid, waardoor we het gevoel hebben dat we iets doen wat niet goed is.”

Jongepier: “Zelfrijdende auto’s maken helemaal geen morele keuzes! Dat is een benaming die ze te veel autonomie geeft. De bestuurder van de auto maakt indirect ook morele keuzes, bijvoorbeeld door te kiezen voor zo’n auto en het bijbehorende algoritme. Maar ik denk dat we ook moeten kijken naar de rol van bedrijven die deze auto’s produceren. Uiteindelijk zijn het mensen geweest die een programma hebben ontworpen en ervoor hebben gekozen zaken te delegeren aan algoritmes. Hun bedrijven behoren verantwoordelijkheid te blijven dragen voor die keuze. Als jij op de werkvloer een van jouw taken hebt uitbesteed aan een collega, kun jij ook op het matje worden geroepen als die niet naar behoren is uitgevoerd. Bijvoorbeeld als jij een collega hebt gevraagd die daar helemaal niet geschikt voor was.”

Van Tongeren: “Maar de tragiek zit erin dat het juist misgaat doordat we onze verantwoordelijkheid nemen en de auto zo goed mogelijk programmeren. Interessant is trouwens dat de ontwikkeling van het morele algoritme werkt met voorbeelden die het ontleent aan het utilitarisme: een ethische stroming waarin het algemene welzijn centraal staat, en die nogal streng rationeel is. Een belangrijke criticus van deze stroming is filosoof Bernard Williams. Hij schrijft over onze ‘morele integriteit’. Daarmee doelt hij op onze persoonlijke betrokkenheid bij zaken. Deze betrokkenheid gaat in tegen wat ‘objectief’ beter is om te doen, maar hoort bij onze morele conditie. Denk bijvoorbeeld aan iemand die weigert zijn eigen kind op te offeren aan het algemene welzijn. Het is belangrijk dat er ruimte is voor deze integriteit. Ik betwijfel of dat bij technieken als de zelfrijdende auto zo is.”

Jongepier: “Interessant aan Williams is dat hij laat zien: los van of iets de juiste keuze is of niet, het mag nooit zo zijn dat in morele dilemma’s de keuze evident is. Het antwoord op de vraag of je een kleuter of een oud mannetje aanrijdt behoort nooit eenduidig te zijn. Er moet altijd ruimte zijn voor het eigen nadenken van de mens over hoe te handelen. Met dit beroep op het menselijk oordeelsvermogen ben ik het eens. Maar ik geloof dus niet dat auto’s morele keuzes maken – die worden nu gemaakt door de Elon Musks van ­deze wereld. Daarom is er nog steeds ruimte voor deze menselijke integriteit, die verplaatst zich alleen naar een andere plek. Laten we ons dus niet enkel focussen op de zelfrijdende auto, maar vooral op de bedrijven daarachter.”

In het Filosofisch elftal reflecteren filosofen op de actualiteit. Lees alle eerder verschenen stukken hier terug.

Lees ook:

Of de zelfrijdende auto het leven van een baby of een bejaarde spaart, hangt af van het land waar hij rijdt

De zelfsturende auto heeft eindelijk toestemming gekregen om de weg op te gaan. Maar stel je voor: als hij het zebrapad nadert, steken daar plotseling drie mensen over. Doorrijden betekent hun dood, maar uitwijken zal de inzittenden het leven kunnen kosten­­. Wat moet deze zelfsturende auto doen?

De keuzes van een zelfrijdende auto zijn niet neutraal, ook al is het een computer

Technologie nooit neutraal kan zijn, schreef Trouw onlangs in een commentaar. ‘Het is immers de mens die ze bedient, gebruikt of aanstuurt.’