“[Robots] are not going to change the supply of people who are willing to have their throat cut.”

Met de komst van drones liggen oorlogen die door robots worden gevoerd binnen handbereik. Het wetenschapsprogramma Labyrint maakte onder de titel “Serieuze Spelletjes” onlangs een documentaire over nieuwe technieken die niet alleen oorlogvoering, maar ook de zorg voor mensen ingrijpend veranderen.

Een kijkwijzer voor wie weinig tijd heeft maar geïnteresseerd is in het thema van deze week. Vanaf 13:30 gaat de uitzending over oorlog. “Steeds meer wapentuig heeft niet eens een bestuurder nodig want: denkt zelf, beslist zelf, en als het moet, vernietigt zelf.” Vanaf 18:10 komen “small tactical UAVs” aan bod: drones dus.

• Tekst gaat verder onder de video
• Naar het weekoverzicht

• Meer informatie en achtergronden via de website van Labyrint

We leren in de aflevering dat drones worden ingezet voor missies die “dull, dirty and dangerous” zijn. Volgens een van de militairen kunnen we in de toekomst zelfs een apparaatje ter grote van een vlieg nemen en dat veranderen in een aanvalswapen – alles wordt immers kleiner. We leren ook dat de JSF, als die er al komt, volgens ingewijden het laatste bemande vliegtuig is dat ooit in gebruik genomen wordt.

Vechtende robots

Dan volgt de discussie over robotische oorlogsvoering. Aan de ene kant is er het video game scenario, vertolkt door hoogleraar robotica Noel Sharky. Daarin verdwijnt de “morele buffer” – het wordt een stuk makkelijker om mensen te vermoorden als dat semi-automatisch gebeurt, vanaf een grote afstand.

Militair historicus Martin van Creveld ziet het zo’n vaart niet lopen. Volgens hem is de komst van drones geen revolutie. Cynisch merkt hij op: “You still need a good supply of cut throats. People who are willing and able to cut throats. I don’t think robots are going to change that.”

En, nog belangrijker, zo vervolgt hij: “[Robots] are not going to change the supply of people who are willing to have their throat cut.”

Hoogleraar informatica Jaap van den Herik denkt dat we juist meer robots nodig hebben. Want tegen de tijd dat zij het overnemen zijn ze zo slim, dat ze niet gaan vechten. “Als intelligente robots het voor het zeggen krijgen is mijn visie dat oorlog uitgebannen wordt.”

Creveld gelooft noch in robots, noch in mensen – hij noemt zichzelf waarschijnlijk een realist. Volgens hem heeft afstandelijke oorlog zijn voordelen. “If [the controllers of drones] are really thinking they are playing a game, that this is not real, then it might give them an advantage.”

Dit is precies het argument waarmee het Amerikaanse leger komt om de afstandelijke oorlog te rechtvaardigen. “It gives me clarity,” verklaarde een piloot tegenover CNN.

Labyrint sluit af met Noel Sharky die waarschuwt dat vechtende robots de oorlogsdrempel verlagen, omdat het eigen personeel geen risico meer loopt.

Dan maar een bewustzijn

The Economist maakt een soortgelijk punt:

“The operators of drones, often on the other side of the world, are far removed from the sight, sound and smell of the battlefield. They may make decisions to attack that a commander on the ground might not, treating warfare as a video game.”

De oplossing? Drones uitrusten met een bewustzijn.

“The software conscience (…) is called the Ethical Architecture. Its judgment may be better than a human’s because it operates so fast and knows so much. And—like a human but unlike most machines—it can learn.”

• Lees de rest van het artikel bij The Economist.
• Lees ook een verslag van een uitgebreide discussie over “Robots die voor je vechten” via de website van het Rathenau Instituut
• Naar het weekoverzicht

***