Commissie ontwikkelt voor het eerst richtlijnen voor zelfrijdend vervoer

Een Duitse commissie heeft wereldwijd als eerste een set ethische richtlijnen opgesteld voor autonoom rijden. In die richtlijnen is bepaald hoe er moet worden omgegaan met bepaalde grote vraagstukken betreffende deze vorm van rijden. Het gaat dan om vragen zoals wie is er verantwoordelijk bij een ongeluk en wat moet een zelfrijdende auto doen als hij wordt geconfronteerd met de situatie waarin het voertuig bijvoorbeeld ofwel een kind of een ouder iemand zal raken?  

De richtlijnen zijn opgesteld door een commissie van 14 man, die door de Duitse overheid is belast met de taak om voor het eerst na te denken over enkele protocollen voor zelfrijdend vervoer. Deze commissie bestaat uit onder andere wetenschappers, vervoerexperts, wetenschappers, juristen, ingenieurs, consumenten en filosofen.

Richtlijnen

Uiteindelijk kwamen zij uit op 20 richtlijnen. Zo vinden ze dat het geautomatiseerd rijden in een automatisch voertuig een ethische verplichting behoort te zijn, op het moment dat bewezen is dat dit zo minder ongelukken veroorzaakt. Maar dat houdt tegelijkertijd in dat de inzet van autonome voertuigen alleen te rechtvaardigen is wanneer hierdoor het aantal ongelukken vermindert in vergelijking met menselijke automobilisten.

De verantwoordelijk voor de introductie én de goedkeuring voor zelfrijdende systemen ligt in de ogen van de commissieleden niet bij de ontwikkelaars, maar uiteindelijk bij de overheden. Daarom dienen alle systemen officieel gekeurd en gecontroleerd te worden. Maar tegelijkertijd kunnen mensen niet gedwongen worden om autonoom te rijden. “Het moet altijd mogelijk zijn om de autonome modus uit te schakelen”, aldus Christoph Lütge, professor Business Ethicist aan de Technische Universiteit München en lid van deze commissie.

Ongelukken

Een belangrijke richtlijn is dat alle zelfrijdende systemen moeten zijn ingesteld om zo min mogelijk ongelukken te laten plaatsvinden. De technologie moet in principe dus ook voorkomen dat er gevaarlijke situaties kunnen bestaan. Wanneer een ongeluk echt niet te voorkomen is, heeft een menselijk leven altijd prioriteit boven materiële schade.

In het geval dat de auto wel moet kiezen tussen twee slechte opties, mag het systeem in de auto niet voorgeprogrammeerd worden om een weldoordachte, morele keuze te maken. Zelfs al zou een menselijke chauffeur dat wellicht wel doen. “Zelfrijdende auto’s zouden geen beslissing moeten maken op basis van persoonlijke karakteristieken, zoals leeftijd, fysieke conditie of geslacht”, legt professor Lütge uit. Wanneer een ongeluk niet te voorkomen is, kan een auto dus niet geprogrammeerd worden om in plaats van het kind, de oudere persoon te raken.

Een programmeur mag namelijk nooit de beslissing maken om een persoon op te offeren, legt Lütge uit. Hij schetst een voorbeeld waarbij een auto rijdt op een smal weggetje naast een diepe klif. Wanneer er dan een kind op de weg verschijnt, kan de programmeur van het zelfrijdende systeem niet beslissen dat de auto zichzelf in het ravijn stort om het kind te redden. “De enige optie is om zo hard mogelijk te remmen.” Wel mag het systeem zodanig worden ingesteld dat berekend wordt hoe het minst aantal slachtoffers valt.

Verantwoordelijkheid

Een grote vraag bij zelfrijdende voertuigen is de verantwoordelijkheid bij een ongeluk. Wie is er uiteindelijk schuldig als een zelfrijdende auto dan toch een ongeluk veroorzaakt: de automobilist die op de bestuurdersstoel zit maar zijn handen niet aan het stuur heeft of de ontwikkelaar van de auto en het zelfrijdende systeem? Volgens de ethische commissie is dat de laatste partij. In wetgeving moet hier dus ook rekening mee gehouden worden.

Op die manier geef je als menselijke chauffeur de verantwoordelijkheid niet zozeer over aan de techniek als wel aan de ontwikkelaars. Lütge: “Wij willen afspraken zodat altijd duidelijk is wanneer een menselijke chauffeur rijdt en wanneer de techniek. Wie is er dan aansprakelijk? Als de verantwoordelijkheid overdraagbaar is, moet elke reis worden bijgehouden in een zwarte doos. Daarvoor zijn internationale standaarden nodig.”