Wordt ook oorlogsvoering geautomatiseerd?

Op 24 februari zijn we wakker geworden in een nieuwe wereld. Een wereld waarin oorlog weer een reële optie is en waarin technologie een prominente rol opneemt.

Trefwoorden: #communicatie, #drone, #oorlog, #wapen

Lees verder

Omslagverhaal

( Foto: iStock )

Download het artikel in PDF

ENGINEERINGNET.BE - Ongeacht de uitkomst, zal de Russische inval in Oekraïne de komende jaren verder nazinderen nu heel wat Europese lidstaten hun defensiebudgetten hebben opgetrokken. Wat mogen we verwachten? En zien we binnenkort killer robots op het slagveld? 

Technologie speelt een cruciale rol in oorlogsvoering anno 2022. Maar het zijn niet alleen de tanks en raketten die het verschil maken. De oorlog begon met een oproep van de Oekraïense vicepremier Mykhailo Federov aan Elon Musk om Starlink ontvangers naar zijn land te sturen. Grote delen van de communicatie-infrastructuur werden al in de eerste dagen vernietigd door de Russen. Het gebruik van Starlink zou de enige manier zijn om toegang te krijgen tot het internet. Cruciaal.

Musk herpositioneerde prompt zijn satellieten en liet weten dat er meer ontvangers onderweg waren. De jonge minister betrok ook andere technologiereuzen in het conflict door ze met een open brief aan te sporen om aan de zijde van Oekraïne te staan. Een oproep die wel degelijk gehoor kreeg want meerdere grote bedrijven hebben intussen hun verkoop of aanbod van diensten beperkt of volledig stopgezet in Rusland. Een oorlog wordt dus niet meer alleen op het slagveld gestreden, communicatie doet dienst als wapen. Want de beelden van platgebombardeerde ziekenhuizen of weerloos neergeschoten burgers doen veel om andere partijen te engageren.

Technologie als pasmunt 
Dat Oekraïne niet om harde dollars vroeg voor de ondersteuning van zijn militaire verzet, maar om cryptomunten (het haalde er al meer dan 60 miljoen op), wijst dat ook de pasmunt in oorlogstijd aan het veranderen is. En dat kan in vele gedaanten en vormen. Het land aanvaardt zowel DOT (token van Polkadot blockchain, SOL (token van het pijlsnelle cryptonetwerk Solana), Ether (munt van Ethereum, het op één na grootste cryptonetwerk), stablecoins en NFT’s.

Met de intrede van drones, lijkt het militaire apparaat een nieuwe stap gezet te hebben richting automatisering. (Foto iStock)

De tegenpartij volgde overigens dezelfde strategie. Na de Westerse sancties die de roebel zoveel mogelijk devalueren, kozen heel wat Russen voor hun kapitaal het hazenpad van cryptomunten. Het deed de koers van bitcoin, die de voorbije maanden toch een aantal klappen gekregen had, weer hoge toppen scheren. Verder op het Oekraïense verlanglijstje: drones. Washington stuurde onder meer zogenaamde kamikaze drones, het formaat van een rugzak, schietklaar in tien minuten maar de kracht om een tank neer te halen.

Drones dienen niet alleen om aan te vallen, ze worden ook ingezet om medicijnen te krijgen waar ze nodig zijn, in diep omsingelde gebieden in het oosten van Oekraïne. Zo ging er een order naar Draganfly voor 200 units. Maar ook Westerse drones langs de rand van het Oekraïense luchtruim doen hun deel om informatie over Russische posities door te seinen.

Intrede van killer robots? 
De impact van dit conflict op langere termijn zal sowieso zijn dat militaire technologie weer hot wordt. Heel wat Europese landen beslisten in de nasleep van de Russische inval dat hun defensiebudgetten weer de hoogte in zouden gaan, terwijl er de voorbije decennia net stevig van afgeroomd werd. Waar er dan precies in geïnvesteerd zal worden, dat zal de komende jaren duidelijk worden. Met de intrede van drones, lijkt het militaire apparaat een nieuwe stap gezet te hebben richting automatisering.

Veel observatoren waarschuwen voor de verdere ontwikkeling tot zogeheten LAWS, lethal autonomous weapon systems. Eind vorig jaar geraakte de Verenigde Naties het niet eens over een ban op deze killer robots, autonome wapensystemen die zonder de nood aan menselijke interactie hun doelwit uitzoeken en aanvallen.

In een rapport over de burgeroorlog in Libië maakte de VN voor het eerst gewag dat dergelijke systemen voor het eerst dodelijke slachtoffers gemaakt hadden. Maar er zijn ook al apparaten in gebruik om de grens tussen Noord- en Zuid-Korea te bewaken. Indringers in de gedemilitariseerde zone worden zonder menselijke interventie gedood.

Nieuwe wapenwedren 
Pogingen om killer robots aan de Conventie van bepaalde conventionele wapens toe te voegen mislukten dus. Dit is een kaderverdrag dat een verbod of beperking beoogt op wapens die buitensporig letsel veroorzaken of niet doelgericht ingezet kunnen worden. Toen al doemden de contouren van een nieuwe wapenwedren op, de oorlog die Rusland gestart is in Oekraïne kan nu een nieuwe accelerator vormen.

Grootmachten als de Verenigde staten, Rusland en China zetten volop in op de ontwikkeling van LAWS. Het tijdperk van geautomatiseerde oorlogsvoering is nog niet aangebroken, maar de ontwikkelingen gaan wel razendsnel. De mate van autonomie gaat bij elke ontwikkeling weer een beetje verder.

Drones dienen niet alleen om aan te vallen, ze worden ook ingezet om medicijnen te krijgen waar ze nodig zijn. (Foto iStock)

Onderscheid en proportionaliteit 
Maar wat maakt ze dan zo gevaarlijk? Dit is terug te brengen tot twee belangrijke elementen: onderscheid en proportionaliteit. Alles begint met een juiste identificatie. Zullen killer robots altijd het verschil zien tussen vijandige elementen en twaalfjarige kinderen die achter elkaar aanzitten met speelgoedwapens? Of tussen burgers die een conflictgebied ontvluchten en opstandelingen die zich om tactische redenen terugtrekken? Het probleem is niet dat enkel machines deze fouten kunnen maken maar op welke schaal en aan welke snelheid dat kan gebeuren wanneer de algoritmes die deze beslissingen moeten maken niet perfect functioneren. Als ze het fout hebben, hebben ze het goed fout en is niet altijd duidelijk te achterhalen voor de ontwikkelaars wat er nodig is om ze te corrigeren. Artificiële intelligentie fungeert nog te veel als een blackbox.

Hoe controleren? 
De ontwikkeling van killer robots door militaire instanties gebeurt nu in de veronderstelling dat ze het gebruik van autonome wapensystemen zullen kunnen controleren. Maar als de geschiedenis ons iets geleerd heeft, dan is het dat het afschermen van wapentechnologie bijzonder moeilijk is. Als de vraag er is, zullen er meer ontwikkelaars van dergelijke systemen zich aandienen. Ze lijken ook het ultieme antwoord op moderne conflicten. Drones zijn nu al instrumenteel in het verzet van Oekraïne tegen de Russische indringers.

Ze zijn goedkoop en efficiënt, maar daardoor ook zeer wijdverspreid. Ze kunnen dus ook zomaar in de handen vallen van terroristen. Een wapenwedren die niet alleen omwille van een stijgend volume negatief is, maar ook omwille van de stijgende impact. Want wat als ze gekoppeld worden met chemische, biologische of nucleaire wapens? En wat dan met rekenschap afleggen? Er gaan nu al stemmen op om Vladimir Poetin als oorlogsmisdadiger te berechten. Maar hoe kan je een killer robot verantwoording laten afleggen als hij inbreuken pleegt op de Conventie van Genève? Wie is er verantwoordelijk voor robots die oorlogsmisdaden plegen?

Verbod in België 
In België is het inzetten van dergelijke wapens verboden, het was daarmee het eerste land die zo een ban uitvaardigde. Maar onderzoek ernaar kan wel nog. Ook Europa ijvert sinds 2018 voor het aan banden leggen van LAWS maar de laatste jaren worden de standpunten steeds vager. Zo bleven militaire toepassingen ook buiten beschouwing van de nieuwe whitepaper rond artificiële intelligentie die het publiceerde.

Als het Europa menens is de komende jaren een militair blok te gaan vormen, doet ze er dus goed aan eerst een strategie te ontwikkelen omtrent de toepassing van artificiële intelligentie op het militaire terrein. Glasheldere regels voor disruptieve technologie die het strijdtoneel een radicaal nieuw aangezicht zou geven.