Robotica is een wetenschap op het snijvlak van techniek en informatica die zich bezig houdt met het ontwikkelen van robots. Robots zullen een steeds grotere rol in onze samenleving gaan innemen. En naarmate ze geavanceerder worden, zullen ook de ethische problemen rond de ontwikkeling en het gebruik van robots ingewikkelder worden. Het verschil tussen de mens als subject, die handelt, en het ding, dat als object de behandeling ondergaat, lijkt met elke nieuwe generatie robots te vervagen.

Machines

Ouderwetse robots, zoals een industriële robot die auto’s verft, lijken nog erg op machines. Ze kunnen niet inspelen op onvoorspelbare omstandigheden en zijn dus niet intelligent. De verantwoordelijkheid voor hun gedrag is daarom gewoonlijk eenvoudig terug te voeren op de ontwerper, bouwer of gebruiker.

Moderne, ‘cognitieve’ robots kunnen vaak veel complexere taken uitvoeren en zijn zelflerend. Ze kunnen op basis van hun ervaringen zelf hun algoritmes aanpassen en daarmee is de verantwoordelijkheid bij ongelukken veel minder duidelijk tot te schrijven aan een mens. Toch ziet het ernaar uit dat robots ingezet zullen worden bij handelingen die zorgvuldig ethische afwegingen vragen, zoals oorlogvoering of gezondheidszorg. De ethische problemen rond cognitieve robots zijn veel complexer dan bij ouderwetse, ‘deterministische’ robots.

Value Sensitive Design

Je zou in de software van een zelfrijdende auto een ethische component kunnen inbouwen (value sensitive design), maar de vraag is dan welke moraal daaraan ten grondslag moet liggen. Je kan je auto dan zo programmeren dat hij altijd voor de veiligheid van de inzittenden kiest; maar je kan je ook een auto voorstellen met een meer altruïstische inborst, die in een noodsituatie ervoor kiest niet met de tegenligger te botsen, maar grootmoedig tegen een muur rijdt.

Het rapport bespreekt ook de interessante vragen die opkomen wanneer robots zo geavanceerd worden dat ze echt op menselijke personen gaan lijken. Wanneer dat precies gebeurt is onduidelijk, omdat er geen consensus is wat een mens tot een ‘echt persoon’ maakt: morele handelingsbekwaamheid, wilsvrijheid, zelfbewustzijn…?

Morele status

Het rapport stelt de vraag of aan robots een morele status moet worden toegekend als blijkt dat ze ‘existentieel significante’ relaties met mensen aangaan. De schrijvers wijzen op het feit dat militairen zich zo aan hun bom-ruimende robots kunnen hechten, dat het verloren gaan van zo’n apparaat hen werkelijk verdriet kan doen. Mensen die afhankelijk zijn van zorgrobots kunnen zich aan hen hechten als waren het echte mensen. De schrijvers trekken een parallel met ecosystemen waar mensen vergelijkbare zinvolle relaties mee hebben, en die beschermd worden onder het Werelderfgoedverdrag. Maar als het gaat om autonome wapens wijzen de auteurs juist op het ethische probleem dat dergelijke wapens het risico op oorlog kunnen vergroten, juist omdat ze de belofte lijken in te houden van een oorlog zonder verlies aan mensenlevens – dan zijn robots juist gewoon weer enkel ‘apparaten’.

De technologische ontwikkelingen lijken ons te dwingen om afstand te nemen van een al te absoluut onderscheid tussen ‘ding’ en ‘persoon’, en in ons ethische begrippenkader plaats in te ruimen voor tussenvormen. Het is jammer dat het rapport niet ingaat op ethische discussies over de status van het dier, dat ook ‘hoger dan een ding, lager dan een persoon’ lijkt te zijn.

Meer vragen dan antwoorden

De ethiek van de robotica is een jonge wetenschap, met meer vragen dan antwoorden. Het laat zien dat de ‘eeuwige’ filosofische vragen van het type ‘wat maakt een mens een mens?’ niet de luxeproblemen zijn van een handvol wereldvreemde academici. Onder druk van onstuimige technologische ontwikkelingen blijkt dat allerlei mensen – programmeurs, verplegers en generaals - heel duidelijke antwoorden behoeven.