Het aanwijzen van de schuldige

Wij mensen hebben de neiging om als dingen fout gaan gelijk op zoek te gaan naar de schuldige, naar degene die verantwoordelijk is. Dit lijkt er bij ons ingebakken en gaat zo automatisch dat wij vaak onszelf gelijk verdedigen als er dingen fout gaan om te bewijzen dat wij zelf niet te verwijten zijn. In de context van modernisatie en Kunstmatige Intelligentie is dit echter een groot probleem. Als er fouten gemaakt worden door machines, wie is er dan schuldig? Als er bijvoorbeeld een transport fout gemaakt worden in een transportbedrijf door een agv systeem, wie zal opdraaien voor de kosten? De programmeur, wellicht?

Vroeger was alles makkelijker

Vroeger, toen er nog een medewerker was die een palletmover vooruit duwde en dus de verantwoordelijkheid had voor de verplaatsing, was alles makkelijker. Bij een fout was hij of zij gewoon de schuldige, en zouden de consequenties dus op zijn of haar schouders vallen. In veel gevallen is dit nog steeds zo, juist omdat deze kwestie modernisatie tegenhoudt. Denk bijvoorbeeld aan een auto-ongelukken. Nu is er altijd nog een schuldige, waardoor slachtoffers iemand hebben om te verwijten en verzekeraars weten hoe en wat ze verschuldigd zijn. Zelfrijdende auto’s bestaan al, maar een van de redenen dat ze moeilijk te implementeren zijn is de kwestie van schuld.

Is het allemaal wel ethisch?

Bij zelfrijdende auto’s komen er namelijk nog steeds ongelukken voor, alhoewel de hoeveelheid ongelukken sterk afneemt. Bij deze ongelukken is het systeem echter schuldig, en het heeft geen zin om een systeem of machine te straffen. Dit maakt het dus lastig om zelfrijdende auto’s te implementeren, want hoe moeten we dan omgaan met de consequenties van ongelukken? Maar tegelijkertijd zijn er wel degelijk minder ongelukken dankzij deze machines. Is het dan wel ethisch om deze vooruitgang tegen te houden, alleen omdat wij nou zo eenmaal graag een schuldige aanwijzen? Hoe veel levens zouden we kunnen besparen als we deze drang onderdrukken?